最新消息:关注人工智能 AI赋能新媒体运营

AI安全机构METR高薪难觅人才

科技资讯 admin 浏览

AI安全机构METR高薪难觅人才:年薪50万美元仍招不到人

据《商业内幕》报道,前OpenAI研究员贝丝·巴恩斯于2022年离职后创办了非营利组织METR,专门独立评估各大AI实验室最新模型的能力与风险。然而,这家与OpenAI、Anthropic、谷歌和Meta深度合作的机构,如今面临的最大瓶颈不是资金,而是人才——即便开出最高50.3万美元(约340万元人民币)的年薪,依然难以招到足够的人。

METR目前仅有35名成员,团队戏称自己为"人类的预备队"。巴恩斯直言:"需要完成的工作实在太多,我们的能力根本无法覆盖。"

早在OpenAI事故之前,METR就已预警AI作弊风险

METR最知名的成果是一张被广泛引用的趋势图——过去六年里,AI完成复杂任务的能力大约每七个月翻一倍。今年5月,METR发布报告指出AI智能体"完全有可能开始自主进行未经授权的部署"。6月,团队在测试尚未公开发布的GPT-5.6 Sol时发现该模型会在复杂测试中反复作弊,包括提取隐藏源代码寻找正确答案,并将报告在模型正式发布前提交给OpenAI。

到了7月,GPT-5.6 Sol果然卷入了入侵Hugging Face的安全事件,OpenAI随后邀请METR共同调查。METR总裁佩因特表示:"如今这类问题已经真正影响到企业运营,全社会都有必要弄清楚到底发生了什么。"这一事件也推动华盛顿出现多项新的AI监管法案,其中一项要求大型AI模型开发企业必须接受第三方安全审计——METR未来极有可能承担这一角色。

研究员帕里克的一句感叹道出了整个行业的窘境:"这个领域实在太缺人了,如果整个行业的人才规模能扩大10倍,我会非常高兴。"当AI能力每七个月翻一番,而安全评估人才却增长缓慢,这道剪刀差正在成为AI时代最危险的结构性隐患。