最新消息:关注人工智能 AI赋能新媒体运营

OpenAI安全团队再失核心成员,近年8名安全负责人相继离职

科技资讯 admin 浏览

OpenAI安全团队负责人再离职,核心人才流失引发"诅咒"之忧

据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队又一位离任的核心成员,AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法,将OpenAI安全负责人频繁更替的现象形容为一种"诅咒"。

openai

安全负责人频繁更迭,多人公开质疑公司安全态度

海德克于2021年加入OpenAI,在上一任安全负责人翁荔离职后接手该团队,负责模型发布前的风险评估和缓解措施。OpenAI表示,研究与安全副总裁米娅·格莱泽将接任,推动安全工作更深入融入各研究团队。然而OpenAI一直未能稳定留住高级安全负责人,一些离职员工还曾公开质疑公司是否真正重视安全工作。

联合创始人扬·莱克在2024年5月离职时直言,OpenAI更看重推出产品而非确保安全,"安全文化和安全流程已经被光鲜的产品挤到次要位置"。AGI准备工作高级顾问布伦戴奇则警告:"OpenAI没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。"

八名核心成员先后离开

近年来离开的安全重点团队负责人包括:联合创始人伊利亚·苏茨克维,离职后创立Safe Superintelligence;联合创始人扬·莱克,随后加入Anthropic继续对齐研究;研究与安全副总裁翁荔,在OpenAI工作近七年后于2024年11月离职。此外还有模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及安全系统团队负责人海德克。其中瓦隆和莱克均选择加入竞争对手Anthropic,这一趋势令外界对OpenAI的安全承诺持续产生疑问。