美国商务部国家标准与技术研究院(NIST)周二(5月5日)宣布,旗下人工智能标准与创新中心(Center for AI Standards and Innovation,CAISI)已与谷歌DeepMind、微软和xAI签署协议,使美国政府能够在前沿人工智能模型公开发布前获取未发布模型,开展能力评估、安全风险分析与国家安全影响评估。
CAISI的前身是2024年成立的美国人工智能安全研究所(U.S. AI Safety Institute,AISI),后于2025年6月在特朗普政府时期重组为人工智能标准与创新中心,成为美国政府与商用人工智能产业开展测试、合作研究及最佳实践制定的主要平台。AISI早在2024年8月便与Anthropic和OpenAI达成协议,可在两家公司发布重大新模型前后获取相关模型,以评估其能力与安全风险。
此次CAISI再次与谷歌DeepMind、微软和xAI达成类似协议。
CAISI强调,与这些前沿人工智能开发者的合作,将使美国政府能够在模型公开前对其进行评估,并在部署后开展后续评估与研究。截至目前,该机构已完成40余次评估,覆盖尚未公开的最先进人工智能模型。
此外,这些协议将促进信息共享,推动企业自愿改进产品,并帮助美国政府更清晰地掌握人工智能能力与国际人工智能竞争态势;为全面评估与国家安全相关的能力与风险,开发者通常会向CAISI提供削弱或移除安全防护措施的模型版本。