Anthropic呼吁放缓前沿AI研发

6月4日，Anthropic在官网发布《当AI构建自身》一文。文章系统披露了AI在编写与改进自身代码方面的进展，并呼吁全球机构适当放缓前沿AI研发步伐，以防范潜在的系统失控风险。

公司内部数据反映了研发效率的变化。截至2026年5月，合并进代码库的代码超过80%由AI助手Claude自主编写。2026年第二季度，工程师平均交付的代码量是2024年同期的8倍。在优化小模型训练代码的测试里，Claude的加速能力一年内从3倍升至52倍。排查数万项训练任务崩溃故障时，AI耗时2小时完成定位与修复，人类通常需要2到3天。AI独立稳定完成任务的时长翻倍周期，从每7个月缩短至每4个月。

随着AI在执行环节消耗的人类时间减少，在充足算力支持下，AI可能形成一个不断自我迭代增强的能力闭环，即“递归自我改进”（AI在无人类介入下自主升级）。Anthropic指出该阶段尚未完全到来，也并非不可避免，但到来时间大概率会早于大多数机构的预期。如果AI彻底跨入全面自建下一代系统的阶段，当前模型中微小的“不对齐”行为可能在迭代中放大，导致人类失去对系统的控制权。

针对潜在风险，文章建议国际社会、政府及顶尖AI实验室共同建立协调机制，必要时主动放慢或暂停前沿AI发展。公司认为此举能为社会结构与AI对齐研究留出调适时间。落地难度同样被列出。AI训练比导弹发射井更容易隐藏，秘密推进研发的商业吸引力很大。一旦竞争对手加速，采取谨慎策略的企业会面临失去领先地位的风险。

6月1日，Anthropic向美国证券交易委员会秘密递交了S-1注册声明草案，正式启动IPO筹备流程。目前公司年化收入已突破470亿美元，估值达9650亿美元。