最新消息:关注人工智能 AI赋能新媒体运营

Meta与AWS签约,初期将采用数千万颗Graviton核心

科技资讯 admin 浏览

Meta上周宣布与亚马逊云科技(AWS)达成合作,将采购AWS Graviton处理器用于其计算基础设施,包括最新的Graviton 5,使Meta成为Graviton的最大客户之一。

此次签约是双方最新合作,也是长期合作的一部分。初期Meta将采用数千万个Graviton核心,未来可根据其AI算力需求进一步扩展。AWS表示,这一合作反映了AI基础设施构建思路的转变:虽然GPU在训练大型模型方面仍至关重要,但代理式AI的兴起大幅增加了对CPU密集型任务的需求,例如实时推理、程序生成、搜索以及协调多步骤任务。

AWS指出,运行代理系统所需的基础设施必须能够处理数十亿次交互,同时高效协调复杂的多步骤代理工作流。Graviton系列芯片正是为此类场景设计。通过此次合作,Graviton将支持Meta代理系统在内的多种AI应用实现规模化运行。

彭博社上周报道称,该合作的估计金额达数十亿美元。

Graviton是亚马逊于2018年推出的自研Arm架构CPU,运行在AWS专有的Nitro系统之上。亚马逊表示,Graviton已占过去两年EC2新增CPU容量的一半以上。去年12月发布的采用3纳米制程的Graviton 5芯片拥有192个核心,缓存容量为前代的5倍,核心间通信延迟降低33%。基于Graviton 5的实例还支持Elastic Fabric Adapter(EFA),可加速实例间的通信。基于Graviton 5的Amazon EC2 M9g实例性能相比前代提升25%。

去年有媒体报道称,Meta与谷歌签署了一项价值百亿美元的六年云服务协议。

Meta与AWS的此次合作,是其为扩大AI算力基础设施所采取的多项举措之一。除了引入第三方云服务和芯片架构,Meta正积极自主研发芯片。2023年,Meta发布了第一代自研芯片MTIA(Meta训练与推理加速器),至今已推出第六代产品(MTIA 500)。

两周前,Meta宣布与博通扩大合作,双方将共同开发多代自研AI芯片MTIA,计划结合博通的芯片设计、封装与高速网络技术,打造可扩展至多GW级别的AI芯片,以降低对第三方GPU的依赖。

Meta与AWS的主要竞争对手,包括谷歌和微软,也在自研芯片领域取得进展。谷歌拥有Axion CPU和AI加速器TPU,后者包括上周发布的第八代TPU(TPU 8i/8t)。微软则推出了Cobalt CPU和AI加速器MAIA。