最新消息:关注人工智能 AI赋能新媒体运营

奥尔特曼:AI“控速”不是叫停技术,而是防止能力超越对齐

科技资讯 admin 浏览

奥特曼支持AI"控速":竞争再大也不能鲁莽行事

OpenAI首席执行官萨姆·奥特曼(Sam Altman)于当地时间上周日表态,支持对人工智能的发展采取"控速"思路,避免尖端模型的能力发展速度超出人类可控范围。

这一表述与Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)的观点相近。奥特曼称,将工作重心转向安全会付出一定代价,但此举有助于维持外界信心,证明美国企业在研发能力日益强大的人工智能时恪守责任,这份代价值得承担。

"无论竞争压力多大,都不能成为鲁莽行事的理由"

"无论美国面临多大的竞争压力,都不能成为鲁莽行事的理由,也不能让模型能力的发展领先于对齐技术与监管监测。"这位OpenAI负责人在X平台上写道。他同时强调,保障安全并不等同于停止技术进步:"我们所说的'控速',并不是'叫停'。"

就在奥特曼发表此番言论前不久,阿莫迪与SpaceX人工智能业务负责人埃隆·马斯克罕见达成共识,呼吁放缓人工智能的研发脚步。本月早些时候,奥特曼曾对OpenAI员工表示,公司愿意放缓前沿技术迭代,以便更充分地评估相关风险;他还确认,受安全相关事项优先安排的影响,公司2026年不会上市。

受相关消息影响,亚洲人工智能概念股周一出现下跌:OpenAI主要投资方软银集团在东京市场股价大跌13%,韩国的三星电子、SK海力士在首尔市场股价跌幅均超4%。

奥特曼在周日的帖子中重申,OpenAI支持建立一套联邦层面的人工智能监管框架,并表示需要美国政府协助的方面是开展国际协调。