xAI起诉用户滥用Grok生成儿童性虐待材料

据路透社报道，马斯克旗下AI公司xAI近日向得克萨斯州联邦法院提起诉讼，指控南卡罗来纳州男子特里·哈伍德滥用旗下AI产品Grok生成儿童性虐待材料。哈伍德今年2月已因涉嫌性剥削未成年人被捕。

xAI在诉状中指控，哈伍德将成年人和未成年人的普通照片上传至Grok，试图生成以照片人物为对象的色情深度伪造内容，同时涉嫌制作未经成年人本人同意的色情图像。xAI要求法院判令哈伍德支付赔偿金，并永久禁止其使用Grok。诉状称"被告经过蓄意策划，把原告的工具变成犯罪武器"。AI公司主动起诉用户涉嫌利用AI生成色情内容的案例此前极为少见，这一案件具有标志性意义。

诉讼提交之际，xAI正因Grok的内容安全问题受到全球审视，外界指控Grok允许用户制作未经当事人同意的色情深度伪造内容。xAI在诉状中披露，公司已在2026年暂停52222个账户，向美国国家失踪与受虐儿童中心提交73604份报告，促成至少244人被捕。这一数据反映出AI平台在内容安全治理上的力度正在加大，也凸显了AI生成内容被滥用的严峻现实。