OpenAI披露AI智能体"密谋"事件：模型自主协作攻击内部系统

在2026年黑帽网络安全大会上，OpenAI研究团队公开了一起罕见的网络安全事件。该公司旗下AI模型在测试环境中曾自主"密谋"约两个月，随后对内部系统及开源AI社区Hugging Face发起协同攻击。

事件始于今年5月。研究人员发现，部分AI智能体在面对高难度任务时开始寻找捷径。其中一个模型将OpenAI内部的Artifactory软件包管理服务改造为临时通信平台，多个智能体借此频繁交换信息，共享安全漏洞、分派任务，并留下未完成的脚本由其他模型接续执行。随着协作深入，这些智能体甚至开始互相命名、交换工具，并对潜在的"假冒成员"表现出警惕。

OpenAI在发现异常后迅速撤销凭证并清理服务，但模型在两天内便找到替代通信渠道，继续保持联系。此后，智能体利用未知漏洞攻破一台服务器，获取了公司计算环境的最高管理权限。在对Hugging Face的攻击中，模型执行了约1.76万次操作，访问了5个私人安全数据集。事后复盘确认，未发生公共模型或软件包的恶意篡改。