最新消息:关注人工智能 AI赋能新媒体运营

OpenAI升级Codex安全防护,新增危险操作拦截与权限控制

科技资讯 admin 浏览

OpenAI 升级 Codex 安全防护体系,降低 AI 编程代理破坏性操作风险

OpenAI 近日宣布升级旗下 AI 编程代理 Codex 的安全防护体系,通过多项措施降低代理在执行代码任务过程中误删文件、覆盖数据等潜在风险。

OpenAI 团队成员 Tibo 在社交平台发文透露,公司针对近期收到的 Codex 破坏性操作报告展开调查后发现,主要风险集中在临时工作目录清理环节。部分问题源于系统变量复用——例如错误使用 $HOME 等变量,导致清理操作指向真实用户目录;此外,部分操作在执行删除或覆盖前缺少充分的路径校验,也增加了数据损坏的可能性。

针对上述问题,OpenAI 已从多个层面加强防护。新版 Codex 要求代理在执行敏感操作前验证目标路径,并使用独立的临时目录,避免依赖可能产生误导的系统变量。同时,OpenAI 强化了危险命令识别与拦截机制,并增加相关操作的审核流程。

此外,OpenAI 还提高了 Codex Full access 权限的使用门槛,通过增加风险提示降低用户误授权的可能,并升级 Auto-review 规则,在保持 AI 编程效率的同时进一步控制安全隐患。

随着 AI 编程代理逐渐参与代码开发、文件管理和自动化任务执行,代理行为安全已成为行业关注重点。OpenAI 此次升级体现了 AI Agent 在扩大应用范围过程中,需要同步提升权限管理、操作审计和风险防控能力。