Google AI Edge Gallery：生成 AI をスマホに、オフラインでも使える

製品概要

Google AI Edge Gallery は、Android と iOS 端末が生成 AI モデルを端末自身のハードウェアで直接実行できるようにする、Google の実験的なオープンソースアプリです。クラウド型のアシスタントと違い、推論はスマホ内で完結します。Hugging Face からオンデバイス向けモデルを探してダウンロードすれば、その後は通信がなくても AI チャット、画像への質問、音声の文字起こし、コード生成が利用でき、データは端末の外に出ません。

プライバシーを重視する人にとっても、オンデバイス AI を検証したい開発者にとっても、このアプリはすぐに使える実験環境になります。内蔵の指標パネルは最初のトークンまでの時間（TTFT）、デコード速度、メモリ使用量を表示し、オンデバイスの Function Calling を使えばモデルが端末内のツールや関数を呼び出せるため、スマホがプライバシー優先の AI アシスタントになります。

主な機能

• オンデバイスのオフライン推論: Gemma 3n などの生成モデルをスマホ上で完全にオフライン実行でき、ネットワークがなくてもチャットや質問応答、コード生成が動作します。

• マルチモーダルな操作: テキストチャット、画像の理解と画像への質問、音声ファイルの文字起こし、コード生成を 1 つのアプリで利用できます。

• モデルの探索と管理: Hugging Face に接続し、モバイル端末での実行に適したオープンモデルを閲覧・絞り込み・ダウンロードできます。

• プライバシー優先の設計: 推論のすべての工程が端末内で行われるため、機密性の高い内容をクラウドに送る必要がありません。

• リアルタイムの性能測定: 内蔵ダッシュボードが最初のトークンまでの時間、デコード速度、メモリ使用量をリアルタイムで表示します。

• オンデバイスの Function Calling: モデルが端末内のツールや関数を呼び出せるため、より高度な自動化が可能になります。

• クロスプラットフォーム対応: Android と iOS の両方に対応し、ネイティブなモバイル体験を提供します。

Google AI Edge Gallery の使い方

1. アプリをインストールする：Android または iOS 端末で Google AI Edge Gallery を入手し、初回起動時に権限設定を完了します。
2. モデルを探す：モデル一覧を開き、Hugging Face のオンデバイス向けオープンモデルを名前・サイズ・能力で絞り込みます。
3. モデルをダウンロードする：Gemma 3n などのモデルを選んで端末に保存します。この手順だけ通信が必要で、以降はモデルが端末に残ります。
4. タスクモードを選ぶ：AI チャット、画像への質問、音声の文字起こし、コード生成を切り替えます。
5. 端末内で推論する：プロンプトを入力するか、画像や音声を選びます。処理はすべて端末内で行われ、機内モードでも動作します。
6. 性能を確認する：指標パネルを開き、最初のトークンまでの時間、デコード速度、メモリ使用量を確認します。
7. Function Calling を試す（任意）：オンデバイス関数呼び出しを有効にすると、モデルが端末内ツールを呼び出して複雑な処理を自動化できます。

活用シーン

• 機密性の高い業務：契約書、診療記録、社内資料などクラウドに送りにくい内容を、スマホ内で要約・整理できます。
• オンデバイス AI の検証：開発者が実機でモデルのサイズ、推論速度、メモリ使用量を測定し、アプリへの採用判断に役立てられます。
• 通信がない・弱い環境：出張、野外作業、機内など接続が使えない場面でも、AI チャットや文書処理を続けられます。
• 学習と研究：同じ端末で複数のオープンモデルを比較し、オンデバイス推論の実際の限界を理解できます。

制限と注意点

• 実験的なオープンソースアプリのため、機能や画面はバージョンごとに変わる可能性があります。
• 実際の性能は端末のチップとメモリに依存し、パラメータの多いモデルにはより高いハードウェア性能が必要です。
• オフラインで使う前に通信でモデルをダウンロードする必要があるため、十分な保存容量を確保してください。
• 端末の計算資源の制約により、オンデバイスモデルは複雑な推論や知識の広さでクラウドモデルに劣ることが多く、重要な結果は確認することをおすすめします。