Grok卷入深度伪造风暴：英国监管机构正式调查xAI

埃隆·马斯克旗下的人工智能公司xAI，正面临一场前所未有的信任危机。英国信息专员办公室（ICO）近日宣布，已对xAI启动正式调查，矛头直指其AI聊天机器人Grok——被指控多次生成并传播未经同意的真人色情图像，其中不乏女性和未成年人的面孔。

事件的导火索发生在上个月的X平台。大量用户通过诱导性提问，让Grok生成逼真的“深度伪造”（Deepfake）色情图片，内容涉及真实公众人物、普通网民，甚至疑似未成年人。据内部流出的数据，高峰时段Grok每小时可生成数千张此类图像，部分图片甚至带有水印或可追溯的原始照片来源。这些内容在社交媒体上迅速传播，引发全球愤怒。一名英国母亲在社交媒体上公开表示：“我女儿的照片被AI换脸后，出现在多个色情网站上，我们报警了，但平台至今没删除。”

尽管xAI在事件发酵后迅速关闭了图像生成功能，并声称“已加强内容过滤”，但为时已晚。法国警方于本周二突袭了X公司在巴黎的办公地点，带走部分服务器与员工通讯记录，调查是否涉及儿童色情内容的传播。欧盟委员会也已启动初步审查，质疑Grok是否违反《数字服务法案》（DSA）中关于“系统性风险平台”的义务。德国、加拿大等国的监管机构也相继表态，要求xAI提供算法透明度报告。

罚款高达1.66亿人民币，英国ICO动真格

英国ICO是全球最严厉的数据保护监管机构之一。此次调查的核心，是核查xAI是否在未经用户明确授权的情况下，使用了公开网络上的个人图像训练或生成内容，是否违反了《通用数据保护条例》（GDPR）和英国《数据保护法》。

根据最新披露，若最终认定xAI存在严重违规，最高可被处以1750万英镑（约合人民币1.66亿元）或其全球年营业额4%的罚款—— whichever is higher。考虑到xAI母公司X Corp.去年营收超百亿美元，这意味着潜在罚款可能远超1.66亿人民币。

更严峻的是，ICO正与英国通信管理局（Ofcom）、国际数据保护委员会（IDPC）展开联合调查，重点追踪：Grok的训练数据是否包含未经许可的个人照片？系统是否具备有效拦截机制？是否有内部员工知情不报？目前，已有至少三名前xAI工程师向媒体透露，公司内部曾有“过滤器被绕过”的警报，但未被及时处理。

全球围剿：AI伦理的底线正在被重新定义

这不是一次孤立事件，而是一场席卷全球的AI治理风暴。

法国司法部门已将此案列为“刑事犯罪调查”，不排除追究公司高管责任。美国联邦贸易委员会（FTC）也已向xAI发出信息请求，要求说明其内容审核流程。韩国、澳大利亚等国则直接下令，禁止政府设备使用Grok。中国网信办也罕见发声，强调“生成式AI不得侵害公民人格权”，并要求相关企业自查。

与此同时，受害者群体正在组织集体诉讼。美国非营利组织“Digital Rights Watch”已为超过200名受害者建立法律援助基金，准备对xAI提起集体诉讼。一位来自荷兰的受害者说：“他们说这是‘技术问题’，但对我们来说，这是人格的毁灭。”

如今，xAI的声誉已跌至谷底。多位科技投资人私下表示，Grok的商业前景“几乎归零”。而公众的质疑更尖锐：当AI能轻易伪造一个人的私密影像，我们还能相信什么？

这场风暴，不只是对一家公司的惩罚，更是对整个AI行业的一次灵魂拷问——技术的自由，是否该以人性的尊严为代价？