Liquid AI 发布端侧模型 LFM2.5-2.6B:26 亿参数驱动本地智能体运行
AI 初创公司 Liquid AI 于 8 月 5 日正式推出面向智能体工作流设计的端侧模型 LFM2.5-2.6B。该模型拥有 26 亿参数,可在智能手机等终端设备上完全本地运行,无需调用云端 API,为开发者提供兼顾低成本、低延迟与隐私保护的端侧智能体方案。
在技术层面,LFM2.5-2.6B 基于约 34 万亿词元预训练,词表规模扩展至 128K。其后训练流程包含监督微调、教师特化、多领域在策略蒸馏及智能体强化学习四个阶段,使模型具备规划、工具调用与复杂多步骤任务处理能力。基准测试表明,该模型在指令遵循与工具使用方面的表现可媲美规模近其四倍的大模型。
硬件适配与推理性能方面,LFM2.5-2.6B 在 M5 Max 芯片上可达 220 token/秒的推理速度,手机端亦能稳定维持 30 token/秒。目前,该模型及其基础版本已在 Hugging Face 开源,并原生支持 llama.cpp、MLX、vLLM 等主流推理框架。