スマートフォンで大規模なローカル言語モデルを実行する方法:そして、なぜそうしたいのか
大規模言語モデル(LLM)を携帯電話上でローカルに実行する方法と、この経験から得られるメリットについてご紹介します。
知っておくべき最も重要なこと
- 大規模な言語モデルをスマートフォン上でローカルに実行することで、完全なプライバシーとオフラインアクセスが確保され、クラウドサービスへの依存度を低減できます。
- LLMモデルをローカルで効率的に実行するには、スマートフォンに最低6GBのRAMが必要であり、大規模なモデルの場合は8GB以上が望ましい。メモリ容量が少ないスマートフォンでは、1億~2億パラメータのモデルが最適である。
- Atomic ChatやPocketPal AIなどのアプリケーションは、Gemma、Llama、Phi-4などの小型言語モデル(SLM)を実行するために使用でき、パラメータの少ないモデルに焦点を当てることで、スマートフォン上での互換性とパフォーマンスを向上させることができます。
大規模言語モデル(LLM)は現在、無料で利用できるため、ローカルコンピュータ上で実行することが一般的になり、ある意味ではより優れたアイデアと言えるでしょう。クラウドに何も送信する必要がないためプライバシーが保護され、オフラインでも動作します。
スマートフォン上でこうした高度なAIモデルを実行することは、これまで必ずしも容易ではありませんでした(そのため、Siriの最先端のAI機能を利用するには最新のiPhoneが必要でした)。しかし、現在ではほとんどのスマートフォンが十分な性能を備え、一部の機種は小型で効率的なため、実用的に実現可能となっています。iPhone上でローカルAIモデルを実行する方法については、こちらの記事をご覧ください。

メリットはデスクトップコンピュータで得られるものと似ています。Google、OpenAI、Anthropic、その他の第三者にデータを送信することなく、大規模で常時利用可能な独自のプライベート言語モデル(LLM)を利用できます。デメリットとしては、より小規模で性能の低いモデルを扱うため、AIのパフォーマンスが低下し、制限される可能性があること、また、バッテリー寿命に影響が出る可能性があることです(これらのAIによる会話は非常に多くのリソースを消費する場合があります)。
こうした妥協点があったとしても、スマートフォン上で動作するネイティブAIは、日常的なタスクや会話を高い効率で実行できるため、GeminiやSiri(そしておそらく他のAIサブスクリプション)を休止できるでしょう。
ローカル大規模言語モデル(LLM)を実行するために必要な電話機
過去2年以内に発売されたiPhoneまたはAndroidスマートフォンであれば、ローカルラージランゲージモデル(LLM)を問題なく実行できるはずです。人工知能の台頭により、メーカー各社はこの種の用途を念頭に置いてデバイスを設計するようになったためです。古い機種でも動作する可能性はありますが、より小型のモデルが必要となり、パフォーマンスが低下する可能性があります。
AIモデルを実行する際には、プロセッサ(チップセット)の性能よりも、ランダムアクセスメモリ(RAM)の性能の方が実際には重要です。十分なパフォーマンスを得るには6GB以上が必要で、大規模なモデルの場合は8GB以上が望ましいです。RAMが8GB未満の場合は、パラメータ数が1億~2億(B)のモデルを使用することをお勧めします。ここでBは「ビリオン」の略で、モデルのパラメータ数を表します(これは基本的にモデルの知能と汎用性を反映しています)。

ストレージ容量に関しては、あまり心配する必要はありません。7億~8億個のパラメータを使用する最大規模のモデルでも、スマートフォンのストレージ容量を5GB以上消費することはありません。そのため、複数のAIモデルをデバイスに保存しておき、必要に応じて切り替えて使用することをお勧めします。
今日、最新のフラッグシップiPhoneやAndroidスマートフォンを購入すると、オフライン(インターネット接続なし)で実行できる簡単なタスクのためのネイティブAIモデルがプリインストールされています。ただし、AppleとGoogleが開発したこれらのモデルは、ユーザーが直接利用できるものではなく、Siri AIやGeminiが最適な選択肢と判断した場合に使用されるものです。
ローカル大規模言語モデル(LLM)を実行するために必要なアプリケーションとモデル
スマートフォンにAIモデルを導入して実行できるアプリはいくつかあります。中でも人気が高いのは、Atomic Chat( Android版とiOS版)とPocketPal AI(Android版とiOS版)です。両者にはいくつかの違いがあります。例えば、Atomic Chatはデスクトップコンピュータ上でLLMモデルを組み込むための拡張性が高く、PocketPal AIはやや軽量ですが、どちらもスマートフォンでネイティブAIを使い始めるには最適です。
モデル自体(限られた環境で動作するように設計されているため、SLMまたは小型言語モデルと呼ばれることもあります)についても、多くの選択肢があります。たとえば、GemmaはGoogleが無料で提供しているオープンソースモデルの総称であり、その中には、限られたスペースや少ないリソース(スマートフォンなど)で動作するように特別に設計されたものもあります。

MetaはLlamaと呼ばれる独自のオープンソースAIモデルを提供しており、Microsoftも効率性の高さで評価されているPhi-4モデルを提供しています。お使いのスマートフォンに最適なパッケージを見つけるには、「B」の文字の前にパラメータが最も少ないバージョン(または名前に「mini」という単語が含まれているもの)を探すだけです。
現在、これらの小型言語モデル(SLM)は主にテキストベースですが、より新しく、より大規模で高度なモデルの中には、画像やファイルを分析できるものもあります。画像や動画を作成したい場合は、少なくとも次の技術革新が起こるまでは、従来型のクラウドベースのAIモデルを使用する必要があります。
スマートフォンでローカル大規模言語モデル(LLM)を試してみる
これらのネイティブAIモデルがスマートフォン上でどれほど役立つかを確認するため、私はPixel 9 ProにPocketPal AIとGoogleの小型モデルGemmaをインストールしました。Pixel 9 Proはもはやフラッグシップモデルではありませんが、それほど古い機種でもありません。PocketPal AIが提供する、スマートフォンに適したAIモデルを直接選択できる便利な機能に感銘を受けました。
テンプレートをいくつかダウンロードしてインストールすれば、あとは簡単に読み込んで使い始めることができます。PocketPal AIは、オプションの「コンパニオン」(アプリ名の由来)へのアクセスも提供しており、コンパニオンはユーザーに合わせてAIテンプレートをカスタマイズできます。デフォルトのPipオプションは、GeminiやSiriといった標準的なAIアプリで慣れ親しんだものとは一線を画す、適切な代替手段と言えるでしょう。ガイダンス機能とフォローアップ機能はシームレスに動作し、チャット履歴はデフォルトで保存されます。

スマートフォンでLLMモデルを実行すると、応答速度が著しく遅くなるのは当然のことです。また、AIモデルのサイズによって応答速度に明らかな違いが生じます。より小さなモデルを選択すれば、たとえ精度や完全性は劣るとしても、はるかに高速な応答が得られます。最適なパフォーマンスと速度のバランスを見つけるために、いくつかのモデルを試してみる価値があります。
ウェブ検索機能や最新の知識が不足している現状では、この方法はブレインストーミング、既存テキストの分析と洗練、新規テキストの作成、事実の迅速な収集、比較(例:「…に似た映画を提案してください」)などに最適です。ただし、こうしたモデルが生み出す「幻覚」には常に注意が必要であり、AIが提供する情報は決して正確であるとは限らないことを念頭に置いておくべきです。
コメントは締め切りました。