一张假照,惊动全城:青海男子用AI生成“投河”照片吓唬妻子,警方连夜搜救
4月14日清晨,青海省循化县的一通报警电话,让整个县城的警力瞬间 mobilized。一名女子哭着向警方求助:“我老公发来一张照片,他在黄河里,水都漫到脖子了……他是不是要跳河?”
照片里,一名男子站在湍急的黄河水中,衣衫湿透,神情黯然,背景是典型的河岸地貌——乍一看,真像是有人正被水流吞噬。妻子心如刀绞,立刻拨通了110。
循化县公安局迅速响应,出动警车、辅警、河道巡查人员,沿着黄河循化段两岸展开地毯式搜寻。有人划船下水,有人沿岸呼喊,有人调取沿河监控,连附近的村民都被动员起来帮忙寻找。整整三个小时,没有发现任何落水者踪迹。
就在搜救接近尾声时,警方接到关键线索:男子本人,正坐在家里,神情平静。
面对民警,男子低着头,承认了真相——他和妻子因琐事激烈争吵,一怒之下,打开手机里的AI图像生成工具,输入“男人站在黄河中,表情绝望,水深及胸”等关键词,不到一分钟,一张逼真到令人毛骨悚然的照片就生成了。
“我就想吓吓她,让她知道我有多难过……没想到她真报警了。”他声音沙哑,“我根本没去河边,照片是假的。”
警方调取了男子手机中的生成记录、聊天截图和AI平台使用日志,证据确凿。这并非一时冲动的玩笑,而是一次有预谋的虚假信息传播。根据《中华人民共和国治安管理处罚法》第二十五条,散布谣言谎报险情扰乱公共秩序,可处五日以上十日以下拘留,并可并处五百元以下罚款。最终,该男子被依法行政拘留七日。
AI“造图”成新工具?别让情绪绑架科技
这起事件在网上迅速发酵,#AI造图吓人被拘# 登上微博热搜,阅读量破亿。不少网友震惊:“原来AI能骗过真人,连警察都差点信了。”
事实上,这并非个例。近半年来,全国已发生多起类似事件:有人用AI伪造亲人车祸现场骗钱;有人生成“被绑架”照片勒索家属;甚至有情侣用AI生成“对方出轨”图片,导致婚姻破裂。AI生成图像的门槛越来越低,手机App一键生成,成本几乎为零,但后果却可能沉重得让人无法承受。
中国政法大学传播法研究中心副主任朱巍指出:“AI不是‘无害工具’,它正在成为新型情感暴力的帮凶。当技术被用来操纵他人情绪、制造恐慌,它就不再是娱乐,而是违法。”
更值得警惕的是,部分AI平台并未对“自杀”“暴力”“虚假险情”等关键词进行有效过滤。记者实测发现,多个主流AI绘图工具在输入“投河自尽”“溺水求救”等词时,仍能生成高度逼真的图像,且无任何警示提示。
科技没有错,但人要有底线
警方在通报中特别强调:“我们感谢群众的警觉,但也必须严肃指出——拿生命开玩笑,就是拿公共资源当儿戏。”
一次虚假报警,消耗的是数十名民警数小时的搜救时间,是本可用于真实案件的警力资源。在偏远地区,每一次无效出警,都可能是对真正需要帮助者的延迟。
这起事件后,循化县警方已联合当地社区开展“AI使用普法宣传”,在村口张贴警示海报:“AI能造图,但不能造命。别让情绪,毁了你和别人的生活。”
我们生活在一个技术飞速进步的时代,但人性的底线,不该被算法冲垮。一张照片,可以是艺术,也可以是武器。当你按下生成键时,请想一想:你是在表达痛苦,还是在制造伤害?
科技,不该成为情绪的遮羞布。