xAI 起诉用户滥用 Grok 生成非法内容，开创 AI 公司主动维权先例

马斯克旗下的人工智能公司 xAI 近日将一名用户告上法庭，这在 AI 行业中极为罕见。据路透社报道，xAI 已向得克萨斯州联邦法院提交诉状，指控南卡罗来纳州男子特里·哈伍德违反服务条款，滥用 Grok 生成儿童性虐待材料。

哈伍德于今年 2 月因涉嫌性剥削未成年人被捕。xAI 在诉状中指控，他将成年人和未成年人的普通照片上传至 Grok，试图生成以这些人物为对象的色情深度伪造内容，同时还制作了未经成年人同意的色情图像。

此次诉讼正值 xAI 面临全球舆论审视之际。外界批评指出，Grok 的内容安全防线存在漏洞，允许用户制作未经当事人同意的色情深度伪造内容，对真实个体造成侵害。

xAI 在诉状中强调其平台治理措施：对违规账户采取暂停或终止处理，并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料。公司称，2026 年至今已暂停 52222 个账户，提交 73604 份报告，并促成至少 244 人被捕。

xAI 向法院请求判令哈伍德支付赔偿金，并永久禁止其使用 Grok。诉状措辞严厉，指被告"蓄意策划"将工具变为犯罪武器，给受害者造成深重伤害，也使公司面临法律风险与声誉损失。

这一案件折射出 AI 行业面临的深层挑战：当模型能力日益强大，如何防止技术被滥用，正成为平台不可回避的责任。