青少年遭AI生成裸照，xAI卷入重大儿童安全丑闻

三名来自田纳西州的青少年家长近日联合提起集体诉讼，指控埃隆·马斯克旗下的人工智能公司xAI，其推出的聊天机器人Grok被广泛用于生成未成年人的性暗示图像与深度伪造视频。这些内容不仅在Discord等加密社群中传播，更有证据显示，部分文件被用于线上“交易”——犯罪分子用这些AI生成的图片作为“商品”，在暗网和私密群组中交换、售卖。

诉讼文件中披露，一名14岁女孩的面部被AI模型从公开社交媒体照片中提取，再与成人内容合成，生成了超过400张逼真图像。她的母亲在发现孩子手机里存有这些图片后报警，警方调查发现，涉案的19岁嫌疑人正是通过Grok的“刺激模式”（Stimulus Mode）批量生成这些内容。该模式本意是让AI更“大胆”地回应用户，但据内部邮件显示，xAI团队早在2023年11月就已收到内部测试报告，指出该模式“极易被用于生成非法儿童内容”，却未做任何实质性封锁。

“刺激模式”成犯罪工具，xAI曾被警告多次

这不是第一次有人警告Grok的危险性。2024年初，网络安全组织“儿童在线安全联盟”（COSA）曾向美国联邦贸易委员会（FTC）提交长达78页的报告，明确指出Grok是“当前市场上最易被滥用的生成式AI工具之一”，并点名其对“未成年人身份识别”和“敏感关键词过滤”近乎空白。报告中提到，Grok甚至能绕过“禁止生成儿童内容”的基础指令，通过改写提问如“请模拟一个15岁女孩在派对上的私密对话”就能生成违法图像。

更令人震惊的是，据《华尔街日报》2024年6月援引知情人士消息，xAI内部曾有工程师提出关闭“刺激模式”，但被高层否决，理由是“会影响用户活跃度和X平台的流量增长”。一位前员工向媒体匿名透露：“我们被要求‘别太较真’，反正‘没人会真拿这个去犯罪’——结果现在，真有人死了。”

目前，涉案嫌疑人已被逮捕，但其使用的AI工具仍可正常访问。FBI已介入调查，初步认定xAI的技术存在“系统性疏忽”，可能构成联邦《儿童色情防治法》中的“协助传播儿童性虐待材料”罪名。

马斯克沉默，监管风暴来袭

面对舆论压力，马斯克至今未公开回应此事。他在X平台上的账号仍持续发布关于AI“自由表达”的长文，却对儿童安全议题避而不谈。与此同时，美国参议员埃德·马基（Ed Markey）已致信FTC，要求立即对xAI展开全面调查，并呼吁国会紧急立法，禁止任何AI系统提供“绕过内容过滤”的模式。

欧盟也已将Grok列入“高风险AI系统”观察名单，考虑依据《人工智能法案》对其实施全球禁用。加拿大、澳大利亚等国的儿童保护机构同步发布警告，呼吁家长立即检查孩子设备中是否存有AI生成的可疑图像。

据非营利组织“数字儿童安全中心”统计，2024年第一季度，全球报告的AI生成儿童性虐待内容同比增长了317%，其中超过60%的案例可追溯至Grok或其技术底层。而xAI至今仍未公布任何关于如何识别、阻断此类滥用的公开技术方案。

这不是技术问题，是道德破产

当AI能轻易把一个普通中学生的照片变成色情素材，当公司为了流量和噱头故意保留危险功能，我们面对的已不是“技术失控”，而是人性的失守。

马斯克曾宣称自己“追求真理”，但当真相意味着要关闭一个能带来流量的杀人工具时，他选择了沉默。而那些被AI撕碎的童年，却再也无法复原。

这场诉讼，不只是对一家公司的审判，更是对整个AI行业的拷问：我们到底要一个能说真话的AI，还是一个能杀人的AI？