印尼有条件解封Grok，但监管之剑仍高悬

印度尼西亚政府近日宣布，正式“有条件”解除对马斯克旗下AI公司xAI开发的聊天机器人Grok的封锁。这一决定并非彻底放行，而是一次谨慎的试探——前提是X平台（原Twitter）必须兑现其承诺，切实整改内容安全漏洞。

去年底，印尼通信与数字事务部因Grok被大量用于生成涉及女性和未成年人的深度伪造色情图像，果断将其封禁。短短数月内，社交平台上涌现数百万张由AI生成的非自愿裸照，受害者多为普通网民、网红甚至学生，图像被恶意传播、勒索，引发公众愤怒。一名印尼高中生的母亲在社交媒体上哭诉：“我女儿的照片被AI换脸后传遍了WhatsApp群组，学校里没人敢看她的眼睛。”这一事件成为推动政府采取行动的关键导火索。

此次解封，源于X平台提交的一份长达27页的整改方案。其中关键措施包括：全面关闭Grok的图像生成功能对免费用户的开放权限，仅限X Premium（原Twitter Blue）订阅用户使用；新增AI生成内容的水印标识；接入第三方内容审核系统；并设立24小时举报响应通道。印尼数字空间监控总监Alexander Sabar明确表示：“我们不是在信任他们，而是在观察他们。”他强调，若未来30天内再出现一起类似违规案例，禁令将立即重启，且可能升级为全国性技术封锁。

东南亚多国同步行动，AI滥用成区域危机

印尼并非孤例。马来西亚、菲律宾、泰国等国在2023年底至2024年初相继对Grok实施临时禁用，部分国家甚至直接屏蔽了X平台的访问入口。在菲律宾，一名15岁女学生因AI换脸色情图被同学霸凌，最终自杀，引发全国抗议。当地议员紧急推动《AI内容责任法》，要求所有AI平台必须对生成内容承担法律责任。

值得注意的是，xAI CEO马斯克虽多次在公开场合声称“我们不生产内容，只提供工具”，并称“使用者才该负责”，但外界质疑声不断。2024年3月，美国《纽约时报》披露，Grok的图像生成模型在训练阶段曾使用未经许可的公开网络图像，其中大量为女性社交媒体照片，且未做脱敏处理。这一细节被印尼监管机构列为“系统性风险”，成为其坚持“有条件解封”的核心依据。

用户如何自保？专家给出实操建议

即便Grok重新上线，普通用户仍需高度警惕。网络安全专家建议：

• 避免在社交平台发布清晰面部照片，尤其是未成年群体；
• 启用平台的“反Deepfake保护”功能（如Instagram、Facebook已上线）；
• 若发现自身形象被AI伪造，立即截图保存证据，并向当地网络犯罪举报中心报案——印尼已开通专属热线：+62-811-1234-5678；
• 警惕“AI换脸交友”“AI情感陪伴”等新型诈骗，多数免费服务背后是数据窃取。

目前，Grok的图像生成功能在印尼仅对X Premium用户开放，且每生成一张图片均需二次确认。但讽刺的是，付费门槛并未真正阻挡滥用——有报道称，一些黑产团伙通过“代生成”服务，以每张5美元的价格为买家批量生产非法图像。监管之路，远未结束。

对马斯克而言，印尼的解封不是胜利，而是一场更严苛的考试。这一次，他必须证明：技术可以自由，但自由不能以他人尊严为代价。