谷歌开源「Gallery」手机本地跑大模型！完全离线+无需联网+图像问答、多轮对话、...

不二如是

谷歌开源「Gallery」手机本地跑大模型！

完全离线+无需联网+图像问答、多轮对话、代码生成...开发者嗨了

在线学习：



项目：

游客，如果您要查看本帖隐藏内容请回复

谷歌上周末在GitHub以Apache-2.0协议开源了实验性应用AIEdgeGallery，它能让Android手机直接下载并运行HuggingFace上的Llama、Gemma等大模型，后续还将登陆iOS。

模型一旦加载，全部推理过程都在本地完成，可选CPU或GPU通路，并配有实时延迟与吞吐率监测；

应用内提供多轮对话、图片问答、PromptLab单轮任务、模型切换与性能对比等功能，真正做到离线、免费、私密的端侧AI体验。

对普通用户而言，本地运行意味着在地铁、电梯或海外漫游等弱网环境下也能流畅聊天、识图、写代码和文本改写，所有数据都留在设备上，不必担心云端泄露；

支持多种模型尺寸，让入门级机型可选轻量模型，高端旗舰则能解锁更强推理能力，为注重隐私或需离线作业的群体提供了几乎零门槛的AI选项。

对开发者与创业者而言，AIEdgeGallery就是一套本地部署与调试平台：你可以导入自家微调模型，验证在移动端的推理速度与功耗表现，快速打包离线翻译、写作助手或垂直领域小工具；

更大胆的做法是把手机SoC封装进专用硬件，直接售卖“端侧AI+场景软件”的一体机，既省服务器费又消除隐私顾虑，为边缘计算、教育、医疗等场景打开全新市场空间。

评论区聊聊你的想法吧

                               
登录/注册后可看大图

>>万能兑换C币许愿池<<

如果有收获，别忘了评分 ：

                               
登录/注册后可看大图

                               
登录/注册后可看大图

                                                                    

不二如是

感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里

快速收敛

感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里

小甲鱼的二师兄

感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里

爬虫121

感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里