最新消息:关注人工智能 AI赋能新媒体运营

Meta AI应用搬上Arm平台

科技智能 admin 浏览

Meta与Arm宣布从移动端到数据中心的AI合作

Meta与Arm本周宣布从移动端到数据中心的AI合作,包括Meta AI应用程序基础架构将迁移至Arm平台。

这项合作是Meta本周宣布投资15亿美元,在得克萨斯州埃尔帕索建造一座千兆瓦级AI数据中心的一部分。该数据中心预计2028年启用,是Meta在全球的第29座数据中心。

双方称此项合作覆盖“从运行智能的毫瓦级设备到训练世界先进AI模型的百万瓦级系统”,此次合作将助力Meta全球平台多种类型计算、负载和应用体验的提升。

双方的首个合作项目是让Meta平台如Facebook和Instagram(IG)的AI排序及推荐系统采用基于Arm Neoverse的数据中心平台,有望相比x86系统提升性能并降低能耗。两家公司将合作对Meta AI基础架构软件堆栈进行优化,涵盖从编译器、函数库到AI框架的完整链条,并共同调校开源组件,例如使用Arm向量扩展和性能函数库优化Facebook通用矩阵乘法(FBGEMM)和PyTorch,以提高推理效率和传输吞吐量。

合作的第二部分是深化双方在AI软件优化方面的协作,涵盖PyTorch机器学习框架、ExecuTorch边缘推理runtime引擎以及vLLM数据中心引擎。目前双方已通过Arm KleidiAI软件库对Meta的ExecuTorch进行优化,并计划持续改进在移动设备上的效率,加速模型部署,提升从边缘到云端的AI应用性能。

该消息也是Arm年初传出组建AI部门、计划生产AI芯片后的最新进展,传闻新款芯片将于今年秋季发布,而Meta将成为首家客户。

此外,Meta和Arm也计划持续投入AI相关开源技术的贡献。本周Arm宣布已获任命为开放计算项目(OCP)董事会成员,将与AMD及Nvidia共同推动AI数据中心的开放式、可互操作设计。