最新消息:关注人工智能 AI赋能新媒体运营

上海累计备案生成式AI服务模型达150款

科技资讯 admin 浏览

上海生成式AI备案数量突破150款,合规落地提速

据“网信上海”3月16日公布的消息,上海市本月新增1款生成式人工智能服务完成备案,全市累计备案数量已达150款。这一数字意味着上海已成为全国生成式AI服务备案最密集的城市之一,也反映出本地企业在AI应用落地方面的活跃度持续走高。

此次备案并非简单“走过场”。上海市网信办联合公安、通信管理、市场监管等部门,依据《生成式人工智能服务管理暂行办法》逐项审核,重点核查模型训练数据来源、内容安全机制、用户隐私保护等核心环节。不少企业反馈,备案流程比预期更严,但“合规之后反而更安心”——尤其在面向公众提供服务时,有备案号成了用户信任的“通行证”。

值得注意的是,此次备案范围已延伸至“间接调用”场景。即使企业本身不开发大模型,但通过API接入已备案的AI能力,并用于新闻推送、社交互动、舆情引导等具有舆论属性的服务,也必须进行登记。这意味着,从大厂到创业公司,只要你的App里有AI生成的内容,哪怕只是智能客服、文案助手、图片生成,都逃不过监管的“显微镜”。

image.png

AI生成内容必须“亮身份”,用户看得见

从今天起,你在上海使用的任何一款AI产品——无论是聊天机器人、智能写作工具,还是AI换脸、语音合成功能——都必须在界面明显位置标注“本功能由XX模型提供,备案号:沪AI备2026XXXX号”。不能藏在设置里,不能用小字模糊处理,必须让用户一眼看到。

更关键的是,所有AI生成的内容,比如文章、图片、视频、音频,都得打上“AI生成”标识。这不是技术彩蛋,是法律义务。有企业已因未标注被责令下架功能,也有用户反馈:“现在看到AI写的新闻,心里有数了,不会轻信。”

一位本地AI创业公司负责人透露:“我们花了两个月调整产品界面,虽然增加了设计成本,但用户投诉率反而降了30%。大家不是怕AI,是怕看不见AI。”

监管不是拖后腿,而是给创新“铺路”

上海并非唯一在管AI的城市,但却是少数把“备案”和“支持创新”并重推进的地方。目前,已有超80家上海企业获得备案,覆盖金融、教育、医疗、文旅、政务等多个领域。其中,多个医疗AI辅助诊断系统、教育个性化学习助手、文旅虚拟导游等应用,已在医院、学校、景区试点运行。

上海市网信办表示,未来将建立“备案动态更新机制”,对合规表现良好的企业开通“绿色通道”,加快后续迭代审批。同时,正联合高校和产业联盟,推动AI安全评估标准、内容标识技术规范等地方性指南出台。

有人担心监管会扼杀创新,但从实际效果看,合规反而成了上海AI企业的“护城河”。一批中小团队因早早完成备案,在招投标、融资、政府合作中获得了明显优势。一位投资人说:“现在看AI项目,第一件事就是问‘备案了吗’——没备案的,我们都不谈。”

在上海,AI不再是“野蛮生长”的新潮技术,而是一门需要责任、透明与规范的产业。这或许不是最刺激的玩法,但一定是走得更远的路。