谷歌开源「Gallery」手机本地跑大模型！完全离线+无需联网+图像问答、多轮对话、...
谷歌开源「Gallery」手机本地跑大模型！
完全离线+无需联网+图像问答、多轮对话、代码生成...开发者嗨了
在线学习：
https://www.bilibili.com/video/BV198TKzrEN5
项目：**** Hidden Message *****
谷歌上周末在GitHub以Apache-2.0协议开源了实验性应用AIEdgeGallery，它能让Android手机直接下载并运行HuggingFace上的Llama、Gemma等大模型，后续还将登陆iOS。
模型一旦加载，全部推理过程都在本地完成，可选CPU或GPU通路，并配有实时延迟与吞吐率监测；
应用内提供多轮对话、图片问答、PromptLab单轮任务、模型切换与性能对比等功能，真正做到离线、免费、私密的端侧AI体验。
对普通用户而言，本地运行意味着在地铁、电梯或海外漫游等弱网环境下也能流畅聊天、识图、写代码和文本改写，所有数据都留在设备上，不必担心云端泄露；
支持多种模型尺寸，让入门级机型可选轻量模型，高端旗舰则能解锁更强推理能力，为注重隐私或需离线作业的群体提供了几乎零门槛的AI选项。
对开发者与创业者而言，AIEdgeGallery就是一套本地部署与调试平台：你可以导入自家微调模型，验证在移动端的推理速度与功耗表现，快速打包离线翻译、写作助手或垂直领域小工具；
更大胆的做法是把手机SoC封装进专用硬件，直接售卖“端侧AI+场景软件”的一体机，既省服务器费又消除隐私顾虑，为边缘计算、教育、医疗等场景打开全新市场空间。
评论区聊聊你的想法吧{:10_330:}
https://xxx.ilovefishc.com/forum/202505/12/120451wiv7viv5iebupbbr.png
>>万能兑换C币许愿池<<
如果有收获，别忘了评分{:10_281:} ：
https://xxx.ilovefishc.com/forum/202011/20/092334ggd6inlzfisfrdir.png.thumb.jpg
https://xxx.ilovefishc.com/forum/202505/21/111710rvxgdn90vaub5gag.gif 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:} 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:} 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:} 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:} 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:} 康小泡 发表于 2025-6-8 18:08
感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里
{:10_275:}鱼C有你更精彩{:10_288:} 小甲鱼的二师兄 发表于 2025-6-6 20:13
感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里
{:10_288:}{:10_288:}{:10_288:} 感谢分享！！鱼C论坛不愧是全国最大的AI资讯学习论坛！朕很喜欢这里{:10_275:}
页:
[1]