最新消息:关注人工智能 AI赋能新媒体运营

北京启动“清朗京华·AI向善”行动,严打五大AI网络乱象

科技资讯 admin 浏览

北京启动“清朗京华·AI向善”专项行动,剑指AI乱象

北京市网信办近日宣布,即日起开展为期一个月的“清朗京华·AI向善”专项治理行动,聚焦当前网络空间中日益突出的AI技术滥用问题。此次行动不是走过场,而是直击群众最反感、最担忧的AI黑产乱象,从源头遏制虚假信息、隐私侵犯和网络诈骗。

五类重点问题,一个都不放过

**AI合成色情内容,严打“脱衣”黑产** 近期,社交平台和暗网中出现大量利用AI技术“一键脱衣”的违法应用,甚至有人以“付费解锁”为噱头,专门针对未成年人和女性群体传播低俗内容。此次行动将联合公安、市场监管部门,对相关APP、小程序、微信公众号进行全网清查,下架一批非法工具,封禁一批账号,并追查背后黑色产业链。

**名人“被换脸”?别再当冤大头了** 你有没有刷到过“某明星代言某保健品”“某企业家谈股市走势”的视频?这些大概率是AI换脸+语音克隆的骗局。有人靠伪造李佳琦、董明珠、甚至地方领导的面孔和声音,卖课、卖货、拉投资,骗钱不留痕。本次整治将重点打击此类“AI冒名”行为,要求平台对高关注度公众人物的AI生成内容实施“强制核验”机制。

**AI编谣言,比人还快?别信!** 突发事件一出,AI立刻“造”出假现场、假采访、假数据。比如“某地地铁停运”“某学校发生恶性事件”,配上AI生成的模糊视频和“ eyewitness”文字,传播速度远超辟谣。此次行动将建立“AI谣言快速响应通道”,对涉政、涉灾、涉突发公共事件的AI生成内容,实行“秒级识别+人工复核+全网拦截”。

**卖“去AI水印”?这是帮凶!** 你可能在淘宝、闲鱼、小红书上见过这样的商品:“AI生成内容去标识神器”“一键清除DetectGPT痕迹”“教你怎么让AI内容不被识别”。这些服务明目张胆地教人逃避监管,助长虚假信息传播。网信办将联合电商平台下架相关商品,对卖家依法处罚,对教程传播者追责。

**平台不是免责牌,必须扛起责任** 这次行动不是只罚用户,更严查平台。百度、抖音、快手、微博、B站等属地平台,必须在两周内升级AI内容识别系统,实现“生成即标记、可疑即预警、违规即下架”。网信办将抽查平台审核记录,对“睁一只眼闭一只眼”的平台,依法采取约谈、罚款、下架App等措施。

普通人能做什么?

这场行动不是政府单打独斗。如果你看到AI换脸的“明星广告”、被P得面目全非的“现场视频”、或者有人兜售“去AI水印”服务,请立即截图举报——北京网信办已开通“清朗京华”专属举报通道(官网+微信公众号“北京网信办”),举报一经核实,给予奖励。

同时,提醒家长:别让孩子下载不明来源的“AI修图”“AI换装”App,很多内置非法内容收集模块。教育孩子:网络上看到的“真人视频”,未必是真人。

这不是运动,是常态

北京市网信办明确表示,此次“一个月行动”只是起点。未来,AI内容标识将逐步成为平台上线的强制标准,AI生成内容的溯源能力将纳入平台年度安全评估。技术没有善恶,但使用它的人,必须有底线。

我们不需要“完美无瑕”的AI,我们只需要一个不被用来骗人、害人、造谣、侵犯隐私的网络环境。清朗,从今天开始。