最新消息:关注人工智能 AI赋能新媒体运营

TikTok下架视频摘要AI功能,因频繁生成“蓝莓”等严重幻觉内容

科技资讯 admin 浏览

TikTok 暂停“AI视频摘要”功能,原因令人哭笑不得

TikTok 最近悄悄叫停了一项名为“AI概览”(AI Overviews)的实验功能——这个原本想帮用户快速看懂视频内容的AI工具,上线没多久就因为“看不懂视频”被网友疯狂吐槽,最终不得不下线重来。

这项功能原本计划在美国等市场小范围测试,目标是让AI自动读取视频画面和声音,生成一段简洁的文字摘要,比如告诉你“这个视频在教你怎么做蛋糕”或者“这个产品在打折”。听起来很美好,但实际用起来,AI的“脑补”能力直接拉满。

有网友晒出截图:知名舞蹈博主Charli D’Amelio跳着热门舞步的视频,被AI写成“一组不同配方的蓝莓”;一个教人训练狗狗坐下的视频,AI居然解读成“折纸艺术教程”;夏奇拉在演唱会热舞的片段,AI描述成“一个移动的蓝色形状”——连人形都认不出来。

这些错误不是偶然,而是系统性误判。不少用户反馈,AI不仅看不懂内容,还经常把背景音乐、服装颜色、镜头晃动当成关键信息,胡乱拼凑出完全离谱的结论。有人调侃:“这AI怕不是刚学会看视频,眼睛还没对上焦。”

面对舆论压力,TikTok官方终于回应,确认已暂停该功能的测试,并表示未来会调整方向:不再试图“读懂整条视频”,而是专注识别视频中出现的**具体商品**,比如衣服、化妆品、家居用品等。换句话说,AI以后只负责“卖货识别”,不负责“讲段子”。

这其实反映了当前AI在短视频领域的一道硬伤:视频内容太杂、节奏太快、信息密度太高,连人类都得看两遍才能搞懂,AI想“一眼看透”太难了。相比谷歌去年闹出的“胶水披萨”笑话(AI把一张披萨图说成“用胶水粘起来的意大利面”),TikTok这次的翻车更贴近普通用户的日常使用场景,因此引发更大共鸣。

现在,行业里越来越多公司开始“务实”起来:与其追求一个能“看懂一切”的全能AI,不如先做好一件事——比如帮用户快速找到视频里的同款鞋子、识别商品链接、甚至自动标注“这是促销价”。精准比全面更重要,尤其在电商和内容带货越来越火的今天。

对普通用户来说,这件事提醒我们:AI再聪明,也还只是个“半懂不懂”的助手。别指望它替你读懂所有视频,但你可以放心用它找商品——毕竟,AI认货,可能比认人还靠谱一点。

抖音,TikTok