OpenAI安全团队负责人再离职,核心人才流失引发"诅咒"之忧
据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队又一位离任的核心成员,AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法,将OpenAI安全负责人频繁更替的现象形容为一种"诅咒"。
安全负责人频繁更迭,多人公开质疑公司安全态度
海德克于2021年加入OpenAI,在上一任安全负责人翁荔离职后接手该团队,负责模型发布前的风险评估和缓解措施。OpenAI表示,研究与安全副总裁米娅·格莱泽将接任,推动安全工作更深入融入各研究团队。然而OpenAI一直未能稳定留住高级安全负责人,一些离职员工还曾公开质疑公司是否真正重视安全工作。
联合创始人扬·莱克在2024年5月离职时直言,OpenAI更看重推出产品而非确保安全,"安全文化和安全流程已经被光鲜的产品挤到次要位置"。AGI准备工作高级顾问布伦戴奇则警告:"OpenAI没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。"
八名核心成员先后离开
近年来离开的安全重点团队负责人包括:联合创始人伊利亚·苏茨克维,离职后创立Safe Superintelligence;联合创始人扬·莱克,随后加入Anthropic继续对齐研究;研究与安全副总裁翁荔,在OpenAI工作近七年后于2024年11月离职。此外还有模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及安全系统团队负责人海德克。其中瓦隆和莱克均选择加入竞争对手Anthropic,这一趋势令外界对OpenAI的安全承诺持续产生疑问。