Google AI Edge Gallery：把生成式 AI 装进手机，断网也能用

产品简介

Google AI Edge Gallery 是谷歌推出的实验性开源应用，让 Android 和 iOS 设备可以直接在本地运行生成式 AI 模型，例如 Gemma 3n。与依赖云端的 AI 服务不同，它把推理过程完整放在设备端：用户从 Hugging Face 浏览并下载适配端侧的开源模型，之后即使没有网络，也能进行 AI 对话、图像问答、音频转录和代码生成，数据始终留在本机。

对注重隐私的用户和希望验证端侧 AI 能力的开发者来说，这个应用提供了一个开箱即用的试验场。它内置实时性能面板，可以直接看到首 Token 生成时间（TTFT）、解码速度和内存占用；同时支持端侧 Function Calling，让模型在本地调用工具与函数，把手机变成一台隐私优先的 AI 助手。

主要功能

• 端侧离线推理：支持在手机端完全离线运行生成式 AI 模型（如 Gemma 3n），无需网络连接即可完成 AI 聊天、问答和代码生成。

• 多模态交互：支持文本对话、图像理解与问答（上传图片后直接提问）、音频文件转录以及代码生成等多种任务模式。

• 模型发现与管理：直接连接 Hugging Face 平台，浏览、筛选并把适合端侧运行的开源模型下载到本地设备。

• 隐私优先设计：所有数据处理都在设备本地完成，敏感内容无需上传云端，最大程度保护用户隐私与数据安全。

• 实时性能监控：内置指标面板，实时显示首 Token 生成时间（TTFT）、解码速度、内存占用等关键性能数据。

• 端侧 Function Calling：支持模型在设备端调用本地工具或函数，实现更智能的自动化任务处理。

• 跨平台支持：同时支持 Android 和 iOS 系统，提供原生移动端体验。

如何使用 Google AI Edge Gallery

1. 安装应用：在 Android 或 iOS 设备上获取 Google AI Edge Gallery，首次打开时按引导完成基础权限设置。
2. 浏览模型：进入模型列表，查看 Hugging Face 上适配端侧运行的模型，并按名称、体积或能力进行筛选。
3. 下载模型：选择目标模型并下载到本地，例如 Gemma 3n 系列；此步骤需要网络，完成后模型常驻设备。
4. 选择任务模式：根据需求切换到 AI 聊天、图像问答、音频转录或代码生成等模式。
5. 本地推理：输入问题、图片或音频开始推理，整个过程在设备端完成，断网状态下同样可用。
6. 查看性能数据：打开指标面板，观察首 Token 生成时间、解码速度与内存占用，判断当前设备上的实际表现。
7. 尝试 Function Calling（可选）：启用端侧函数调用能力，让模型调用本地工具完成更复杂的自动化任务。

适用场景

• 隐私敏感工作：合同、病历、内部资料等不适合上传云端的内容，可以在手机本地完成理解和整理。
• 端侧 AI 开发验证：开发者在真实移动设备上测试模型体积、推理速度与内存占用，为应用选型提供依据。
• 无网与弱网环境：差旅、野外、机舱等网络不稳定或不允许联网的场景，依然可以进行 AI 对话与文档处理。
• 学习与研究：直观对比不同开源模型在同一台手机上的效果与性能差异，理解端侧推理的边界。

限制与说明

• Google AI Edge Gallery 属于实验性开源应用，功能与界面可能随版本迭代持续调整。
• 端侧推理的实际表现取决于设备芯片与内存，参数量更大的模型需要更高的硬件配置。
• 模型需要先联网下载到本地才能离线使用，首次使用前请预留足够的存储空间。
• 受设备算力限制，端侧模型在复杂推理与知识广度上通常不及云端大模型，关键结果建议人工复核。