スマホでローカルLLMを動かす5つの強力な活用法

ChatGPTやGeminiにプロンプトを送るたび、そのデータはインターネットを横断し、どこかのサーバーに到着し、自分の見えないシステムの一部となります。クラウドモデルは高速・高機能・手軽なので、通常このトレードオフは受け入れる価値があります。

しかし、スマホ上で小規模言語モデル(LLM)をローカル実行するようになってから、私のAIの使い方は変わりました。体験ははるかにプライベートで、時に想像以上に実用的です。クラウドAIほどのパワーはありませんが、特定の用途ではむしろ優れたツールになります。

ここでは、私がスマホのローカルLLMを最も役立つと感じた5つの使い方を紹介します。

1. 考えるためのパートナーとして使う

スマホから出したくない質問に答えてくれる

ChatGPTやGoogleに入力する前に、つい一瞬ためらってしまう種類の質問があります。不適切だからではなく、アカウントに紐づいたサーバーへ送信するのがなんとなく気まずいほど、個人的な内容だからです。「どこからが個人的すぎるか」の線引きは人それぞれですが、誰もが心の中に見えない一線を抱えているものです。

そうした質問は、ローカルモデルに投げるようにしました。会話はすべて自分のデバイス上にとどまり、さらに慎重になりたいときは機内モードに切り替えれば、外部と完全に遮断された状態での対話が可能です。その瞬間、そこに存在するのは自分とモデルだけで、外界への接続は一切ありません。

この環境があることで、AIとの付き合い方が変わりました。声に出すように考えたり、未完成のアイデアを試したり、普段なら胸の内にとどめておくような質問をしたりすることに、ずっと積極的になれます。

2. 散らかったメモを投げ込んで整理してもらう

構造化されたアウトプットを受け取る

私は大量にメモを取りますが、正直なところ、そのほとんどはぐちゃぐちゃです。同じ話題をぐるぐる循環する音声入力の文字起こし、文脈ゼロの箇条書き、その瞬間は完璧に思えたのに後からまったく読み解けない途中の思考……。以前のワークフローは、画面をじっと眺め、行を入れ替え、「何を言おうとしていたのか」をゆっくり再構築する作業の連続でした。

今では、そうしたブレインダンプをそのままローカルモデルに貼り付けて「整理して」と依頼します。モデルは論点の糸を拾い上げ、私が何をぐるぐると考えていたのかを読み解き、次の一歩に進められる、すっきりとした形で返してくれます。磨き上げられた文章ではありませんが、前進するには十分なまとまりがあります。

この使い方が特に輝くのは、まだ生々しすぎて外部に送る気が起きないメモです。すべて端末内で処理されるため、実名や数値、個人的な背景を含む情報も迷わず貼り付けられます。テキストがどこへ流れていくのかと一瞬考える必要すらない——データが端末を一度も離れないからです。まさにこれこそ、私がドキュメントの処理をすべてローカルAIに切り替えた理由です。

3. 手軽なコードチェックに使う

ロジックのサニティチェックをしたいとき

独自ロジック、社内ツール、クライアント固有の設定ファイル——こうしたコードをクラウドモデルに貼り付けるのは、利用規約が何を謳っていようと、避けたい場面が多々あります。ノートPCを開けない外出先では、スマホ上のローカルLLMが軽量な代替手段として機能します。デスクトップでローカルLLMをMCPツールと組み合わせて活用する面白い方法がいくつもあるように、スマホからでも、エラーの状況説明、小さな関数の貼り付け、あるいはコード断片が何をしているのかの平易な解説を、その場で依頼できます。

本格的なIDEの代わりには到底なりませんが、隙間を埋めるには十分です。効果的なのは数百行程度までの小さなスニペットで、この範囲内であれば、控えめなオンデバイスモデルでもロジックの説明、明白なミスの指摘、よりクリーンな実装の提案などをしっかりこなせます。

4. プレッシャーのない語学チューターとして使う

連続記録もスコアも評価もない自由な練習

クラウド型の語学アプリは、学習ツールというよりモバイルゲームのように感じられることがあります。連続学習日数を追跡し、通知で急かし、広告を織り交ぜてエンゲージメントを維持しようとします。ローカルLLMには、そうした仕掛けが一切ありません。

私はフランス語とスペイン語の練習に、より自由な形式で活用しています。KindleとChatGPTを組み合わせた語学学習術にヒントを得て、ぎこちない文法の質問、ロールプレイのシナリオ、間違いを恐れないカジュアルな会話など、思い思いの練習ができます。採点システムもなければ、評価されている感覚もありません。

ローカルで動作するため、オフラインでも問題なく使えます。機内、Wi-Fiが不安定なホテル、通信環境が頼れない場所でも練習可能です。ネット環境を事前に計画する必要がないので、スキマ時間に短いセッションを差し込みやすくなりました。

5. カメラを向けて「これは何?」と尋ねる

画像も理解できるマルチモーダルモデルの力

一部のローカルモデルはテキストだけでなく画像も処理できます(いわゆるマルチモーダルモデル)。これにより、実用的な用途が大きく広がります。私は主に、ホワイトボードの内容の要約、手書きメモの解読、撮影した写真からの要点抽出に使っています。

日常の場面でも重宝します。食材の表示ラベルを撮影してアレルゲンをダブルチェックしたり、製品パッケージを写して馴染みのない表記を調べたり、植物の写真を撮って大まかな識別を求めたり。モデルが完全にオンデバイスで動作する限り、これらすべてにインターネット接続は不要です。

もちろん、結果が常に完璧というわけではありません。小さなモデルは細部をハルシネーション(幻覚)することがあり、画像がぼやけていたり情報が雑然としていたりすると特に顕著です。それでも、素早い状況把握やセカンドオピニオンとしては十分な精度で、実際のところ、求められるのはたいていその程度です。

小さなモデルでも、まったく違う種類の有用性

Alibabaが開発したオープンソースプロジェクト「MNN Chat」は、モバイルハードウェアから驚くほど性能を引き出せることから、こうしたタスクにおける私の定番となりました。Androidスマホで小型LLMを動かせること、そして動かすべきであることを、このアプリ単体で証明しています。

とはいえ、スマホでローカルLLMを動かすことがクラウドAIの完全な代替になるわけではありません。ヘビーな処理、複雑な推論、本格的なコーディング、深いリサーチといった領域では、大型モデルが依然として優位に立ちます。しかしそれは本質ではありません。ローカルモデルには別の役割があります。プライベートで、常に手元にあり、日常のささやかなタスクに驚くほど役立つ——それこそがローカルLLMの真の価値なのです。