中央网信办上线涉AI应用乱象举报专区

中央网信办举报中心本月正式上线“涉AI应用乱象举报专区”。该机制配合专项整治行动，面向社会公开举报渠道。

举报范围覆盖14类违规问题。第一类聚焦AI应用服务违规。具体指向大模型未按要求完成备案。平台安全审核能力欠缺。训练语料存在安全隐患。遭遇AI数据投毒。合成内容未规范标注。滥用技术从事违法活动。以及开源模型管理疏漏。第二类集中处理AI信息内容乱象。涵盖借助AI篡改经典内容。产出劣质或编造虚假信息。仿冒他人身份。生成暴力低俗素材。侵害未成年人权益。利用AI开展网络水军活动。还有各类AI产品与应用程序本身的违规操作。

官方呼吁公众直接参与监督。发现相关违规行为及时向专区反映。多方协同清理行业不良风气。推动AI产业建立健康有序的发展环境。