最新消息:关注人工智能 AI赋能新媒体运营

苹果联手初创公司,让 iPhone 本地运行大型 AI

科技资讯 admin 浏览

苹果洽谈 PrismML 模型压缩技术 欲将大型 AI 模型装入 iPhone

苹果正与硅谷初创公司 PrismML 展开洽谈,探索一项可能改变行业格局的 AI 模型压缩技术。该技术旨在将庞大的 AI 模型压缩至可在 iPhone 本地运行的程度,若成功落地,将同时强化苹果的隐私保护优势,并为 Siri 的升级困境注入新动力。

PrismML 首席执行官透露,苹果已启动技术可行性评估。尽管洽谈仍处于早期阶段,但进展颇为顺利。这一动态紧随 iOS 27 公测版发布之后——该版本标志着改版后的 Siri 首次面向公众测试,苹果正试图以此追赶 OpenAI、Anthropic 等竞争对手的步伐。

将更多 AI 计算任务保留在设备端,意味着更低的响应延迟、更少的云计算开支,以及离线场景下的功能可用性。这与苹果长期秉持的隐私优先理念形成呼应。Counterpoint 分析师 Pathak 表示,云端与设备端 AI 的协同将提供更全面的用户体验:复杂任务上云,敏感信息本地处理。

PrismML 脱胎于加州理工学院,获 Khosla Ventures 投资支持。该公司已公开发布阿里巴巴开源模型 Qwen 的压缩版本,将原本约 54GB 的模型压至不足 4GB,使其 270 亿参数得以在 iPhone 15 及更新机型上运行。未来,PrismML 还计划拓展至其他大型开源模型。

技术层面,PrismML 的方案可将原本需要 8 块 GPU 支撑的云端模型缩减至单卡运行,让依赖数据中心的模型得以迁移至手机、笔记本等终端。不过需要指出的是,尽管单次 AI 任务的内存与算力需求下降,整体芯片需求未必同步减少。