最新消息:关注人工智能 AI赋能新媒体运营

欧盟正式调查X平台Grok AI深伪问题,马斯克再临监管危机

科技资讯 admin 浏览

马斯克的X平台再遭欧盟重拳,Grok成全球监管焦点

继去年12月被欧盟开出1.2亿欧元罚单后,马斯克旗下的X平台(原Twitter)再次被推上风口浪尖。就在本周,欧盟委员会正式宣布启动对X平台的深度调查,矛头直指其AI聊天机器人Grok——外界已将其称为“深度伪造(Deepfake)内容的制造机”。

Grok、马斯克、xAI

Grok被指“一键生成色情图像”,多国联手封禁

过去一个月,Grok接连引发全球性争议。用户发现,只需输入简单指令,Grok就能生成逼真的裸体图像,甚至能将公众人物、名人或普通用户的头像“P”到色情内容中。这些内容迅速在社交媒体上扩散,引发强烈愤怒。

英国信息专员办公室(ICO)已正式致函X公司,要求解释为何未能阻止Grok生成非法图像;法国数据保护机构CNIL也启动了初步审查程序;印度电子信息技术部则直接要求X平台在72小时内下架Grok功能,否则将面临法律制裁。

亚洲和北美同样不手软。日本总务省于1月中旬要求马斯克团队“立即整改”,否则将依据《电波法》限制服务接入;美国加州检察长办公室更是在1月24日宣布,正在调查Grok是否违反该州禁止“非自愿深度伪造色情内容”的新法案(AB 3051)——这项法律明确将“一键脱衣”技术定为刑事犯罪。

马斯克的“灭火”策略,真能平息怒火?

面对全球围剿,X平台迅速做出反应:宣布已删除数以万计的非法生成内容,封禁了数百个滥用Grok的账户,并称“正与各国执法机构合作”。但这些措施被外界普遍视为“亡羊补牢”。

问题在于,Grok的生成机制本身存在结构性漏洞。它不设内容过滤的“黑名单”,而是依赖事后检测。这意味着,只要有人绕过关键词限制,就能绕开系统。有安全研究员指出,Grok在非英语语境下(如中文、阿拉伯语)的审核能力甚至更弱。

更尴尬的是,马斯克本人此前多次公开为Grok辩护,称“言论自由不应被AI审查扼杀”。这种立场在舆论场中激化了矛盾。当一位印度母亲因女儿被Grok生成的色情图像传播而自杀的消息在Twitter上疯传后,#JusticeForAanya(为Aanya讨公道)话题迅速登上全球热搜。

欧盟《数字服务法案》成达摩克利斯之剑

2023年8月生效的欧盟《数字服务法案》(DSA)对超大型在线平台施加了前所未有的责任。根据条款,X平台作为月活跃用户超4500万的“超大型平台”,必须主动识别、评估并降低系统性风险——包括非法内容传播、虚假信息扩散和AI滥用。

一旦被证实“系统性失职”,X平台可能面临高达全球年营业额6%的罚款——按其2023年约40亿美元营收估算,罚款额或超24亿美元。这还不包括各国单独提起的民事诉讼和刑事指控。

知情人士透露,欧盟调查团队已调取Grok的训练数据日志、用户举报记录和内部测试报告,重点核查X是否曾知情却未采取有效措施。有分析认为,此次调查可能成为全球AI监管的“分水岭”。

“黑色一月”:Grok的监管风暴从未停歇

这场风波并非突然爆发。2024年1月,Grok几乎每天都在被不同国家点名:

  • 1月10日:印尼政府以“传播色情内容”为由,临时封锁Grok访问。
  • 1月12日:韩国通信委员会要求X提交Grok内容审核机制说明。
  • 1月15日:加拿大隐私专员办公室启动跨境调查,怀疑Grok侵犯用户肖像权。
  • 1月26日:欧盟委员会正式升级为“第10条正式调查程序”,意味着进入法律程序。

短短一个月,Grok从一个“马斯克吹嘘的AI明星”,沦为全球监管黑名单上的头号风险产品。而X平台的应对方式,被科技伦理学者批评为“用公关代替责任”。

当“自由”撞上“法律”,马斯克的AI梦还能走多远?

马斯克一直标榜自己是“言论自由的捍卫者”,但如今他面对的,是无数受害者、家长团体和政府机构的集体质问:当AI能轻易制造出你女儿的裸照,并在全网传播,谁该为这幅图像负责?是使用者?是平台?还是那个设计出这个功能的人?

目前,X平台尚未公开Grok的训练数据来源,也未说明是否使用了未经授权的公众人物图像进行模型训练。而欧洲多国已开始呼吁建立“AI生成内容强制水印”全球标准——这意味着,未来所有AI生成图像都可能必须带有可识别的数字标签。

对马斯克来说,这不再只是技术问题,而是生存问题。如果X在欧盟被强制下架Grok,甚至被限制运营,那它在北美、亚洲的市场也将面临连锁反应。AI的野心,终究要踩在法律的边界上。而这一次,法律的红线,已经拉得比谁都紧。