最新消息:关注人工智能 AI赋能新媒体运营

越狱风波致全球下架顶尖AI模型Claude Fable5

科技资讯 admin 浏览

Anthropic最新大模型发布72小时后全线停服

Anthropic公司近日推出Mythos级大模型Claude Fable5。该模型在编程与复杂任务处理上表现稳定,迅速进入技术视野。上线仅三天,美国监管机构介入并下达停服指令。

禁令执行力度超出常规。美方以国家安全为由,禁止境外个人与机构访问该模型。身处美国境内的外籍人员同样受限,Anthropic内部的外籍员工也无法继续使用。由于系统无法在技术层面快速精准地核验用户国籍,Anthropic采取直接暂停措施,关闭Claude Fable5及关联的Claude Mythos5服务。受影响用户的请求现已自动回退至前代版本。

Claude Fable5模型示意图

安全漏洞触发监管强硬回应

服务中断源于一次被发现的安全漏洞。该漏洞能够绕过模型内置的安全护栏,实现越狱操作。Anthropic方面解释,这只是单一且非通用的路径,产品上线前已经过数千小时的红队测试。美国政府认为,Claude Fable5具备接近网络武器级的处理能力,护栏一旦突破后果难以估量,要求公司立即修复或直接下架。

双方对漏洞严重性的判断存在明显分歧。Anthropic指出,因为一个非通用漏洞就暂停数亿用户的产品,会对科技行业造成负面示范。知情人士透露,政府的担忧不止于此。官方怀疑已有与中国有关的组织利用该漏洞获取了模型的完整能力,担心存在模型被逆向工程或被蒸馏的隐患。

Anthropic与相关部门的谈判仍在进行。这起事件已经超越单一产品的技术争议。当模型算力逼近国家安全阈值,企业在风险控制与业务自由之间的裁量空间受到严格约束。此次风波的最终走向,将重新划定前沿AI模型的部署规则。