玄铁C950原生运行通义千问27B大模型，RISC-V架构实现AI推理突破

阿里巴巴达摩院旗下玄铁C950处理器近日取得重要进展，成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下直接驱动270亿参数规模的大型语言模型。

玄铁C950采用台积电5nm工艺制造，为64位服务器级处理器，集成64个计算核心，以8核为一组通过AMBA CHI总线互联，主频可达3.2GHz。该芯片具备8指令译码宽度和16级流水线设计，访存带宽较上一代C920提升超过4倍，并内置矩阵加速引擎与向量加速引擎。其单核通用性能在SPECint2006测试中突破70分。

在实际运行中，玄铁C950驱动通义千问3.8-27B模型实现每秒30个Token的解码速度，首Token延迟控制在1.9秒以内。该方案无需外接独立显卡，仅凭CPU本体及片上加速引擎即可完成推理，而传统方式通常需要16GB至24GB独立显存支持。

RISC-V开源架构免除了x86和ARM的高额授权费用。阿里巴巴通过整合千问模型、云计算基础设施及玄铁芯片架构，实现了从芯片设计到模型推理的全链条自主可控。这一垂直整合能力使模型算子可依据硬件特性优化，芯片也能基于实际数据定制专用指令集。