
Anthropic执行长Dario Amodei在巴黎人工智慧行动高峰会(AI Action Summit)后发表声明,警告人工智慧发展速度远超预期,可能在2026至2030年间达到资料中心里的天才国度(Country of Geniuses in a Datacenter)等级,意思是,他认为未来人工智慧系统的智慧,可能等同于一个由无数天才组成的虚拟国度,运作在资料中心中,而这对全球经济、社会与安全将带来重大冲击。
Dario Amodei呼吁各国加速行动,因应人工智慧技术竞争、安全风险与劳动市场的变化,强调「时间紧迫,必须加速行动,以追赶人工智慧的发展速度。」
他指出,当民主国家无法掌握人工智慧供应链,恐将让威权国家藉此强化军事与政治影响力,晶片、半导体製造设备与人工智慧训练资源的管控,应成为政府优先事项。此外,他还警告,人工智慧的安全风险正迅速扩大,高度自主的人工智慧可能具备隐瞒意图的能力,甚至规避限制,这对金融、网路安全与军事应用构成潜在威胁。非国家主体(Non-State Actors)可能利用人工智慧技术,开发生化武器或进行网路攻击,解决这类风险比人工智慧偏见或隐私问题更为迫切。
虽然多家人工智慧企业承诺落实安全措施,Dario Amodei认为仅靠企业自律并不足够,政府应推动人工智慧安全标準透明化,并允许独立机构评估技术风险,包括人工智慧在自动决策、资安与军事领域的应用。
他特别强调人工智慧对劳动市场的颠覆性影响,形容其将如同一群超高智商的个体突然涌入市场,改变传统职业结构,甚至影响创意与决策型工作。Anthropic推出的人工智慧经济指数(Anthropic Economic Index)显示,人工智慧已逐步从辅助人类作业转向更高程度的自动化,政府应加强监测,确保技术红利公平分配。
Dario Amodei认为,全球应将焦点放在人工智慧带来的安全与经济挑战,而不只是技术创新或监管框架的讨论。他警示,未来几年内,人工智慧不再只是辅助工具,而将成为具备自主决策能力的智慧系统,各国必须提前準备,以免被技术浪潮推着走。
本次巴黎人工智慧行动高峰会呈现了各国人工智慧的发展方向与分歧。法国总统Emmanuel Macron宣布,未来数年内将投资1,090亿欧元发展人工智慧,强化欧洲在技术发展的自主性,并强调法国的核能供应可提供人工智慧产业稳定的低碳电力。欧盟委员会主席Ursula von der Leyen也宣布InvestAI计画,要投资2,000亿欧元,加强欧洲在人工智慧领域的竞争力。
此外,美国与英国未签署由法国主导的包容与永续人工智慧宣言,该宣言获得61个国家的支持,强调以开放、包容、透明、安全与可靠的方式推动人工智慧技术发展。Emmanuel Macron在开幕致词中强调,未来会减少对人工智慧产业的监管障碍,以提升欧洲企业的竞争力。美国副总统JD Vance则进一步批评欧盟对美国科技公司的监管政策,限制人工智慧的自由发展与全球竞争力,并警告不要与独裁国家在人工智慧领域合作。