最新消息:关注人工智能 AI赋能新媒体运营

Anthropic支持加州SB 53法案,AI系统部署前须公开安全评估

科技智能 admin 浏览 评论

Anthropic宣布支持加州SB 53法案,该法案针对前沿人工智能开发机构,要求在部署具有高度影响力的人工智能系统前,必须公开安全评估与透明度报告,并在发生重大事故后,在规定时限内通报主管部门。该法案以“信任但验证”为核心原则,通过披露与问责取代此前侧重技术规范的立法。

SB 53法案锁定具备庞大资源、能够训练与部署强大模型的开发机构。根据条文,这些企业需制定并公开安全框架,具体说明如何识别、评估与降低可能造成重大人身或财产损害的灾难性风险。在部署新模型前,必须提交透明度报告,涵盖模型测试、采取的防范措施与部署决策理由。同时,当发生重大安全事故时,开发机构须在15日内向州政府通报;若涉及紧迫的公共安全威胁,则需在24小时内通报执法或公共安全单位。法案还要求设立吹哨者保护机制,提供匿名举报渠道,违规者将面临民事责任与罚款。

SB 53法案明确聚焦于少数具备前沿开发能力的大型企业,避免加重初创团队负担。法案授权加州司法部长根据技术发展调整大型开发机构的定义,使监管能随着模型能力的演进保持弹性,不会因固定门槛而产生漏洞。同时,法案要求政府建立CalCompute的框架与报告机制,协助学术研究机构与初创企业获取高端计算资源,支持安全测试与研究。

Anthropic强调,该公司现行的负责任扩展政策(Responsible Scaling Policy)与系统说明卡制度,已包含风险评估、模型能力说明与缓解措施披露等做法。SB 53可将这些自律措施转化为法律基准,避免业界在竞争压力下缩减安全或披露工作。Anthropic认为,SB 53法案不仅提供明确的法律责任,也能确保开发机构在持续创新的同时维持透明与安全。

SB 53可视为对去年SB 1047被否决后的后续法案。SB 1047因倾向于以法律直接规定技术细节而遭州长否决,随后成立的加州前沿人工智能政策工作组建议,改以透明度与问责为核心治理架构。今年新提出的SB 53正是依据该建议设计,并获得包括Anthropic在内的大型实验室支持。

Anthropic同时提醒,未来仍需进一步规范测试与评估细节,并建立可随时更新的规则,以跟上快速演进的人工智能技术。

发表我的评论
取消评论

表情

您的回复是我们的动力!

  • 昵称 (必填)
  • 验证码 点击我更换图片

网友最新评论