新平台Armv9架构，整合Cortex-A320 CPU及Ethos-U85 NPU，可支援超过10亿个参数的边缘AI模型。

Arm

看準边缘端的AI运算需求，Arm发表首款Armv9架构边缘AI运算平台，整合CPU与NPU功能，强调可支援超过10亿参数的边缘端AI模型，预期将进一步带动AI应用从云端及资料中心向边缘运算发展。

Arm指出，现今AI发展不再只限于云端，随着物联网的智慧化发展提升，从智慧城市到工业自动化，在边缘端处理AI工作负载将带来优势，也有其必要性，首款Armv9边缘AI运算平台，代表此一发展进入重要的里程碑。

随着物联网发展愈来愈普及，也带动运算需求的增加，Arm以自驾车为例，在工厂的环境下自驾车如何精準导航，或是利用AI建立更自然的人机互动体验。Arm指出，AI向边缘端发展，更接近资料源，可降低延迟，并且提升隐私保护。

这款专门定位在边缘AI运算需求设计的Armv9架构运算平台，内部整合号称全新的Cortex-A320 CPU，以及Ethos-U85 NPU，其中的Ethos-U85 NPU支援Transformer运算子网路，使得这款定位在边缘AI运算需求的Armv9运算平台，要比去年推出基于Cortex-M85的边缘AI运算平台，机器学习效能高出8倍。

如果单看CPU，Arm指出，Cortex-A320能够提高物联网的效能、效率及安全性，支援Armv9架构的AI功能及软件支援，比前一代的Cortex-A35，在机器学习方面的效能提升10倍，纯量效能则提高3成。

至于随着物联网普及，而受到重视的物联网装置安全性方面，新平台则将Armv9.2架构的安全功能带到小型化的Cortex-A装置，例如PAC指标验证、MTE记忆体标籤扩充等等。

Arm称新平台将Armv9架构技术，从云端扩大到边缘端，涵盖不同类型的装置，包括从强调高效能设计的装置，到有限电源下需要延长使用时间的高能效装置。

另外，针对边缘端的AI应用开发，Arm也将针对AI框架的开发工具Arm Kleidi，专门优化Arm CPU的AI及ML负载，Arm以物联网AI框架Llama.cpp执行微软Tiny Stories资料集为例，Kleidi为Cortex-A320提升7成的效能。