阿里魔改0.6B模型为17B MoE,激活参数仅5%,CPU跑出30token/s
admin 2026-04-10 170浏览
阿里推出“CPU能跑”的小模型:17.3B参数,激活仅0.86B,性能超4B大模型 阿里国际数字商业团队最近发布了一款让人眼前一亮的新模型——Marco-Mini-Instruct。它总参数量17.3B,但每次推理只...
admin 2026-04-10 170浏览
阿里推出“CPU能跑”的小模型:17.3B参数,激活仅0.86B,性能超4B大模型 阿里国际数字商业团队最近发布了一款让人眼前一亮的新模型——Marco-Mini-Instruct。它总参数量17.3B,但每次推理只...