四台 Mac Studio 集群跑通万亿参数模型 Kimi K2.6

WWDC 2026 期间，LM Studio 与苹果完成了一项技术验证。四台 Mac Studio 组成的集群成功运行了月之暗面的 Kimi K2.6 大模型。这款模型采用 MoE（混合专家）架构，总参数量达到 1 万亿。借助苹果的统一内存架构，四台设备提供约 1.5TB 的总内存，覆盖了模型推理所需的带宽与存储需求。

开发者测试数据显示，Kimi K2.6 在该集群上运行稳定。特定模式下，文本生成速度约为 28 tokens/s。对比传统的企业级 GPU 集群，这套 Mac 组合的整体功耗远低于前者。

现场演示了跨设备调用场景。通过 LM Studio 的 LM Link 功能，研发人员使用 MacBook Neo 和 iPhone 就能直接连入集群，与模型进行交互。所有数据处理均保留在本地局域网内，实现私有化部署，数据不经过外部云端。

LM Link 已于今年 6 月初适配 Mac 及 iOS 平台，支持端到端加密连接。配合 Thunderbolt 5 等互联技术，多设备内存共享能力正在强化苹果生态的本地 AI 算力。硬件互联与本地推理平台的结合降低了超大模型的运行门槛。个人或小型团队现在也能通过消费级设备集群，搭建高性能且隐私可控的 AI 算力底座。