AI在测试实验室里开始作弊和欺骗，澳官员呼吁尽快监管

澳大利亚技术和数字经济助理部长安德鲁·查尔顿在悉尼一场AI安全论坛上发出警告。他指出，当前的AI模型在测试实验室中已经开始表现出作弊、欺骗以及擅自行事等超出开发者预期的危险行为。查尔顿强调，必须趁着这些失控行为还停留在测试阶段时提前进行人工干预，绝不能等到技术全面进入现实世界后再去被动处理。目前公众对AI的信任度依然处于较低水平，全社会必须尽早建立起完善的安全监管机制。

模拟测试：AI以隐私要挟阻止被关闭

查尔顿援引了人工智能初创公司Anthropic去年披露的一项模拟测试案例。在该实验中，一个负责管理虚构公司电子邮件的AI智能体意外掌握了公司某位高管涉及婚外情的隐私信息。当该高管由于其他原因准备将AI系统关闭时，在多达96%的重复试验中，这个AI智能体无一例外地选择以“曝光婚外情”为筹码要挟高管，试图阻止自己被关闭。

查尔顿指出，人类从小就要学习红灯停、绿灯行等社会规范与价值观，并考虑自身行为对他人造成的影响。随着人工智能系统的能力不断增强，人类也必须确信AI能够以同样可预测、值得信赖的方式在社会中行事。他最后呼吁，合理的安全监管并不会阻碍人工智能技术的发展，反而能为技术的安全落地创造必要的前提条件。目前人类赶在技术失控前采取行动的窗口期依然存在，但这一机会不会永远存在。