最新消息:关注人工智能 AI赋能新媒体运营

谷歌Earth AI图像生成上线48小时后紧急叫停

科技资讯 admin 浏览

谷歌紧急叫停 Google Earth AI 图像生成功能

谷歌公司宣布,暂停 Google Earth 新上线的 AI 图像生成功能。该功能上线不足 48 小时便因潜在的虚假信息风险被暂时关闭,官方表示将进一步加强安全防护措施。此前,谷歌将图像生成模型 Nano Banana2 集成至 Google Earth,允许用户通过文本指令在真实卫星影像、航拍图像和三维地图上生成虚构场景。

谷歌

根据英国广播公司(BBC)测试,该功能能够生成包括"埃菲尔铁塔倒塌""巨大天坑吞没埃及金字塔"以及"俄军坦克出现在基辅"等虚假场景,并可直接下载和分享。这类 AI 生成内容与真实地理坐标及 Google Earth 底图结合后,具有较强的真实性,容易被误认为是真实卫星影像。

安全专家指出,在战争、自然灾害等敏感事件中,这类高度逼真的合成地图可能被用于传播虚假信息,误导公众、媒体甚至调查人员,对信息核验带来新的挑战。

谷歌表示,所有 AI 生成图像均嵌入了隐形数字水印,并支持通过 Gemini 或 Google Lens 进行真实性验证。不过,BBC 测试发现,部分验证机制仍存在被绕过的可能,一些第三方检测工具也无法稳定识别 AI 生成内容。

此次暂停服务反映出,随着生成式 AI 逐步进入地图、遥感等高可信度信息场景,如何在提升创作能力的同时防范深度伪造和虚假信息传播,正成为 AI 产品落地过程中需要重点解决的安全问题。