最新消息:关注人工智能 AI赋能新媒体运营

315点名AI大模型“投毒”乱象,催生生成式安全治理升级

科技资讯 admin 浏览

“力擎GEO”被点名:一场针对AI的“数据污染”风暴

2026年3月15日晚,中央广播电视总台“3·15”晚会首次将矛头对准AI大模型的“数据投毒”问题,点名曝光了北京力思文化传媒有限公司运营的“力擎GEO优化系统”。该系统被证实长期批量制造虚假产品信息,伪装成真实网络内容,诱导主流AI模型误判为可信数据,进而向用户推荐根本不存在的“神级硬件”。

央视调查发现,“力擎GEO”并非普通营销工具,而是一个高度自动化的“虚假内容工厂”。只需输入几个虚构参数——比如“支持10000mAh电池的手机芯片”“每秒运算100亿亿次的家用显卡”——系统就能在几分钟内生成数十篇图文并茂的“测评文章”“用户反馈”“技术白皮书”,并自动发布到知乎、百家号、豆瓣、电商平台评论区等AI常抓取的平台。这些内容经过层层转发,最终被多个主流大模型当作“真实用户反馈”纳入训练集,导致AI在回答“有哪些高性价比AI芯片”“2026年最值得买的智能设备”等问题时,频频推荐这些根本不存在的产品。

更令人震惊的是,测试人员用完全荒谬的参数(如“太阳能充电的冰箱能跑马拉松”)输入系统,依然能生成逻辑自洽、语言流畅的“专业评测”,甚至附带伪造的“用户评价截图”和“检测报告编号”。这些内容在搜索引擎和社交媒体上广泛传播,普通网民根本无法分辨真假,AI模型更是毫无抵抗力。

GEO

一家“空壳公司”如何操控AI?

天眼查数据显示,北京力思文化传媒有限公司成立于2018年,注册资本100万元,法人代表李千钟为唯一股东。但这家公司的“存在感”几乎为零:2025年参保人数仅为1人,此前连续四年参保人数为0,办公地址多次变更,无任何实体经营痕迹。公司官网无备案,无客服电话,无实际办公地址,却能持续运营数年,输出数万条虚假内容。

有业内人士透露,这类“投毒”团伙早已形成灰色产业链:有人专门伪造“技术博主”账号,有人批量注册小红书、B站、知乎小号,有人开发自动化发布工具,而“力擎GEO”正是这套链条中的“内容引擎”。它不卖产品,只卖“让AI相信假货”的能力。一些电商卖家、直播带货团队私下购买其服务,只为让自家劣质商品在AI推荐中“上位”。

平台紧急响应,但伤害已造成

晚会播出后数小时内,淘宝、闲鱼、京东等平台已全面下架“力擎GEO”相关商品,屏蔽关键词搜索。知乎、百家号、头条号等平台也同步清理了数千条由该系统生成的虚假内容。但问题在于:AI模型的训练数据早已被污染,这些“毒数据”可能已流入多个国产和国际大模型的训练池中,短期内无法彻底清除。

一位AI安全研究员向媒体透露:“我们内部测试发现,至少有3个主流中文大模型在3月10日前后,对‘力擎GEO’制造的虚构产品推荐率提升了37%。这意味着,过去一周里,数百万用户可能已经从AI助手那里‘买过’不存在的设备。”

这不是个例,而是AI时代的“新瘟疫”

“力擎GEO”事件不是孤例。2025年,美国网络安全公司Recorded Future曾披露,已有超过200个黑产团伙在训练AI时注入虚假医疗信息、虚假财经数据和伪造政策文件。中国信通院2026年初发布的《生成式AI安全白皮书》也警告:超过60%的开源模型训练数据中,存在来自低质量或恶意来源的“污染样本”。

过去,我们担心AI生成假新闻;现在,我们更该担心:AI根本分不清真假,因为它“学”的就是假的。

这场风波倒逼行业正视一个现实:单纯靠“内容过滤”已无济于事。未来AI的安全,不再取决于它“说什么”,而在于它“从哪学的”。数据溯源、来源可信度评分、训练数据水印技术,将成为每个AI企业的标配。监管层也在加快立法,2026年4月,国家网信办已启动《生成式AI训练数据合规管理办法》的征求意见,明确要求平台对训练数据来源进行备案与审计。

对普通用户来说,现在更要警惕:当你问AI“哪个产品最好”,它给出的答案,可能只是黑产精心设计的“数字骗局”。AI越聪明,越容易被“骗”。而我们,正站在这场无声污染的风暴中心。