苹果洽谈 PrismML 模型压缩技术 欲将大型 AI 模型装入 iPhone
苹果正与硅谷初创公司 PrismML 展开洽谈,探索一项可能改变行业格局的 AI 模型压缩技术。该技术旨在将庞大的 AI 模型压缩至可在 iPhone 本地运行的程度,若成功落地,将同时强化苹果的隐私保护优势,并为 Siri 的升级困境注入新动力。
PrismML 首席执行官透露,苹果已启动技术可行性评估。尽管洽谈仍处于早期阶段,但进展颇为顺利。这一动态紧随 iOS 27 公测版发布之后——该版本标志着改版后的 Siri 首次面向公众测试,苹果正试图以此追赶 OpenAI、Anthropic 等竞争对手的步伐。
将更多 AI 计算任务保留在设备端,意味着更低的响应延迟、更少的云计算开支,以及离线场景下的功能可用性。这与苹果长期秉持的隐私优先理念形成呼应。Counterpoint 分析师 Pathak 表示,云端与设备端 AI 的协同将提供更全面的用户体验:复杂任务上云,敏感信息本地处理。
PrismML 脱胎于加州理工学院,获 Khosla Ventures 投资支持。该公司已公开发布阿里巴巴开源模型 Qwen 的压缩版本,将原本约 54GB 的模型压至不足 4GB,使其 270 亿参数得以在 iPhone 15 及更新机型上运行。未来,PrismML 还计划拓展至其他大型开源模型。
技术层面,PrismML 的方案可将原本需要 8 块 GPU 支撑的云端模型缩减至单卡运行,让依赖数据中心的模型得以迁移至手机、笔记本等终端。不过需要指出的是,尽管单次 AI 任务的内存与算力需求下降,整体芯片需求未必同步减少。