
Google宣布在行动端机器学习SDK ML Kit中新增GenAI API,开发者可透过此介面直接呼叫装置端的Gemini Nano模型,将摘要、校对、改写与图片说明等生成式功能引入Android应用程序。新方案强调地端推论,资料不需离开装置,并降低了整合所需的开发门槛。
GenAI API以Android系统服务AICore为基础,AICore在装置内提供Gemini Nano的执行环境,负责下载与维护模型版本,并结合硬件加速以降低推论延迟。由于多个App可共用同一模型,不仅减少储存空间占用,也降低开发者维护模型生命周期的负担,应用程序开发者透过ML Kit提供的高阶介面即可呼叫模型,无需自行处理模型更新或效能调校。
由于要让GenAI API在不同装置与Gemini Nano版本的输出品质尽量一致,Google针对各项功能训练专属的LoRA Adapter,并搭配推论参数的最佳化。藉由LoRA Adapter轻量化调整技术,API能在多样的装置环境下维持稳定表现,减少因硬件差异造成的品质落差,不过官方也指出,输出结果仍可能因装置或模型版本而有所不同。
GenAI API随AICore与对应的Gemini Nano版本一併提供,首批内建最新Nano模型的装置为Pixel 9与10系列,以及三星等多家品牌旗舰机种,但Google并未公开完整支援清单,因此实际能否使用,仍须视目标机型是否具备AICore与相容的Nano版本而定。