16GB 内存直接跑 12B 多模态!谷歌 AI Edge Gallery 登陆 Mac,端侧 AI 再迎生产力爆发

核心提示苹果 Mac 用户在本地离线运行生成式大模型的门槛正进一步降低。据最新技术动态披露,谷歌旗下的实验性应用AI Edge Gallery现已正式登陆 macOS 平台。这意味着 Mac 用户无需依赖云端算力,即可在本地环境中实现高度私密、完全

16GB 内存直接跑 12B 多模态!谷歌 AI Edge Gallery 登陆 Mac,端侧 AI 再迎生产力爆发

苹果 Mac 用户在本地离线运行生成式大模型的门槛正进一步降低。据最新技术动态披露,谷歌旗下的实验性应用AI Edge Gallery现已正式登陆 macOS 平台。这意味着 Mac 用户无需依赖云端算力,即可在本地环境中实现高度私密、完全离线的聊天、图像处理以及语义理解。

与 Ollama、LM Studio 等行业常见的通用型第三方开源模型管理平台不同,谷歌此次推出的AI Edge Gallery采取了深度垂直的策略。该应用目前专注于托管和优化谷歌自家的开放大模型生态,首批仅提供5款经过指令调优(Instruct)的专属模型,其中包括性能强劲的 Gemma-4-12B-it,以及主打端侧参数卸载架构的 Gemma-4-E2B-it、Gemma-4-E4B-it、Gemma-3n-E2B-it 和 Gemma-3n-E4B-it。

在这些首发模型中,最受行业关注的无疑是拥有120亿参数规模的旗舰端侧模型 Gemma412B。谷歌官方表示,得益于底层架构与 macOS 的深度适配,该模型仅需在16GB 内存的普通 Mac 电脑上,就能极其流畅地本地处理文本、视觉和音频等多模态输入。其出色的本地代码编写与逻辑分析能力,能够让轻薄笔记本瞬间变身为具备全天候多模态交互的离线智能体。

除了核心模型库的扩展,谷歌还同步面向 Mac 生态释出了一款免费的端侧语音效率工具——Google AI Edge Eloquent。该工具主打离线智能听写服务,不仅能精准捕获并转写用户的语音信息,还能在本地实时去除废话与口误、对文本进行轻度润色,从而让口头表达转化为更清晰的书面文案。

为了彻底杜绝传统听写软件对特定专业领域的误改痛点,Eloquent 还贴心地开放了“自定义词汇表”功能。用户可根据自身需求,在软件中预先输入个人姓名、特定行业术语以及日常高频短语。由于所有的语音分析和文本润色过程全部在 Mac 本地芯片上闭环完成,数据无需上传云端,极大满足了职场人士对数据隐私和商业机密的刚性保护需求。

今日推荐