Bonsai27B 发布:27B 级多模态模型首次实现手机端运行
一款名为 Bonsai27B 的多模态模型近日正式发布。该模型基于 Qwen3.6 架构,提供三元变体和 1-bit 变体两种版本,成为全球首个可在手机上运行的 27B 级 AI 模型。
在体积控制方面,三元变体采用三进制权重,模型大小为 5.9GB,适用于普通笔记本电脑;1-bit 变体通过二进制权重将模型压缩至 3.9GB,可在 iPhone 17 Pro 上运行。根据 15 项基准测试结果,三元变体保留了全精度基线 95% 的性能,1-bit 变体达到 90%,数学、编程和工具调用等核心能力基本未受影响。
功能层面,Bonsai27B 支持多步推理、结构化工具调用、视觉任务处理及智能体循环。与云端部署模式相比,本地运行可降低单次响应成本,同时保障用户数据隐私,并摆脱网络环境限制,适用于更复杂的离线工作流和智能助手场景。
Bonsai27B 的推出意味着 27B 参数级别的模型在设备端部署取得实质性进展,为移动 AI 应用和智能密度提升提供了新的技术路径。