谷歌推出LiteRT.js：Web端AI推理提速最高3倍

谷歌正式发布Web端AI推理加速库LiteRT.js。它采用WebAssembly技术，结合WebGPU与WebNN等硬件加速能力，替代TensorFlow.js使用的传统JavaScript内核方案。浏览器中AI与机器学习工作负载的运行速度将因此大幅提升。

WebAssembly是一种二进制指令格式，能让网页在浏览器中以接近本地代码的速度执行高性能计算。TensorFlow.js是谷歌此前开发的经典库，开发者用它将基于TensorFlow构建的模型直接部署到Web浏览器，实现客户端AI功能。LiteRT.js就是在此基础上的架构升级。

实测提速最高3倍

谷歌在搭载M4芯片的2024款苹果MacBook Pro上进行了实测。对比现有方案，LiteRT.js的推理速度最高提升3倍。不过谷歌也坦诚，在运行旧硬件或使用不同引擎的浏览器时，实际性能表现可能存在一定差异。

谷歌正推动Web端AI推理从纯JavaScript时代迈向WebAssembly加硬件加速的新阶段。浏览器跑AI模型的速度逐步逼近原生应用水平，无需安装客户端、打开网页即可使用AI功能的体验将更加流畅。这对端侧AI的普及无疑是一针强心剂。