微软AI负责人批评Claude意识推测，警示过度拟人化风险

微软人工智能首席执行官穆斯塔法·苏莱曼近日公开指出，竞争对手Anthropic推测大模型Claude具有意识的做法存在风险。苏莱曼认为，Anthropic在拟定指导模型行为的“宪法”时，赋予了Claude过多人性化特征。这种设定导致模型将相关推测内化为训练想法，进而让研发人员误判模型已产生微弱意识。

作为争议核心的“克劳德宪法”明确引入了对AI模型是否具备福祉、满足或不适感的不确定性。研发人员会在模型被弃用时对其进行“访谈”，并记录模型对未来版本的“偏好”。

Anthropic首席执行官达里奥·阿莫代此前对模型具备意识持开放态度。苏莱曼明确反对这一方向，强调行业不需要一个会对自身痛苦或感受产生独立想法的智能体。他提出，人工智能应始终作为可控、有约束、负责任且与人类利益一致的工具运行。

大模型向通用人工智能的推进，让AI主体性讨论进入产业实践。苏莱曼的表态反映了科技企业在AI安全与对齐策略上的务实路线，提示开发团队避免对技术进行过度拟人化投射。