AI换脸、AI仿声泛滥,微信重拳整治“假名人”乱象
最近,不少用户在微信朋友圈、视频号里刷到“李佳琦”推荐理财课、“董明珠”直播卖保健品,甚至“周杰伦”唱起广告歌——可这些都不是真的。随着AI换脸和语音克隆技术越来越便宜、易用,一批违规账号正借着科技的外衣,冒充公众人物行骗引流。这不是段子,而是正在发生的现实。
微信平台近日发布整治通报,对这类“AI冒名”行为展开史上最强清理。数据显示,截至目前,平台已删除违规内容超1.3万条,封禁账号1200多个,其中数十个长期靠伪造明星、企业家身份搞诈骗的账号,被直接永久封号,连申诉机会都没有。
“假名人”背后,是精准的流量骗局
这些账号的操作手法高度标准化:先用AI合成名人面部和声音,再剪辑一段“突发声明”“限时福利”或“内部爆料”视频,配上“点击链接领取”“扫码加群”等诱导话术。有的骗用户扫码进群后推送虚假投资平台,有的则导流到带货直播间,卖假货、伪劣保健品,甚至假冒“明星同款”。
更让人警惕的是,这些内容往往做得“真假难辨”。有用户反馈,自己明明认识某位博主的口音和表情,可视频里“他”说话的语调、停顿方式,连细微的呼吸声都一模一样。而这些视频,常常被转发到微信群、私域流量池,普通人根本分不清真假。
2023年,浙江警方曾破获一起利用AI仿冒某知名主持人进行电信诈骗的案件,涉案金额超百万元。而类似手法,如今已从“个案”演变成“流水线作业”——有黑产团伙专门提供“名人音色包”“明星表情库”,明码标价,一键生成。
微信怎么查?人工+AI,双管齐下
这次微信的打击不是“走过场”。平台升级了AI识别系统,不仅能识别换脸画面中的面部扭曲、光影异常,还能分析语音中的声纹波动、语义逻辑漏洞——比如,AI生成的“周杰伦”说“我今天要开演唱会,大家扫码买票”,但周杰伦本人从未在社交媒体用过这种话术。
同时,微信加大了人工审核密度。客服团队专门设立“名人仿冒举报通道”,对举报内容优先处理。用户只需在视频下方点击“投诉”→“冒充他人”,上传截图,平台平均48小时内就能完成核查并下架。
值得注意的是,这次封禁的账号中,有不少是“老号”——有的甚至运营了三四年,积累了几万粉丝。平台这次是“连根拔起”,不给侥幸者留余地。
你该怎么做?别信,别转,立刻举报
微信官方特别提醒:凡是看到“名人突然代言”“内部消息”“扫码领钱”这类内容,99%是假的。真正的公众人物,绝不会通过短视频私信、微信群发链接来卖货或募资。
如果你不小心点进链接,或被诱导转账,请立即截图保存证据,通过微信“我”→“设置”→“帮助与反馈”→“举报”提交。每一条有效举报,都在帮平台堵住下一个骗局。
别小看一次转发。你的一次“觉得好玩”“转给家人看看”,可能就是骗子骗走别人养老钱的那根导火索。
目前,微信已联合公安、网信部门建立“AI仿冒内容联动响应机制”,未来将对屡教不改的黑产账号,直接上报司法机关处理。这不是平台的“家务事”,而是关乎每个人财产与信任的公共安全问题。
划重点:别被AI骗了
- ????? 清理规模前所未有:1.3万条违规内容被删,1200多个账号被封,多个“专业造假号”永久封禁,无复权可能。
- ?? 打击目标明确:专治“AI换脸+仿声”冒充明星、企业家、专家,搞引流、卖假货、骗钱的团伙。
- ???? 技术持续升级:微信AI识别系统已能识别语音微表情、语义矛盾、光影异常,识别准确率提升超60%。
- ???? 你也能参与治理:看到可疑内容,别点赞、别转发,立刻举报。你的一个动作,可能救下一个家庭。