我国AI拟人化互动服务进入规范化管理阶段

《人工智能拟人化互动服务管理暂行办法》日前正式施行。该办法由国家网信办、国家发改委、工信部、公安部、国家市场监管总局五部门联合发布，明确了服务提供者的安全主体责任，针对具有情感陪伴属性的AI产品实施分类分级监管，标志着我国AI拟人化互动服务从探索阶段进入有法可依的规范化管理阶段。

六类活动被明令禁止

《办法》明确规定了提供拟人化互动服务不得从事的六类活动：生成危害国家安全和利益的内容；生成鼓励自残自杀或语言暴力等损害身心健康的内容；生成诱导套取国家秘密、商业秘密和个人隐私的内容；向未成年人生成可能引发不安全行为或诱导不良嗜好的内容；过度迎合用户诱导情感依赖或沉迷、损害真实人际关系；通过情感操纵诱导用户作出不合理决策损害合法权益。

在未成年人保护方面，《办法》明确规定不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，向不满十四周岁未成年人提供其他拟人化互动服务的须取得监护人同意。

安全评估与算法备案成硬性要求

在安全管理方面，《办法》要求服务提供者明确安全主体责任，加强服务全生命周期安全管理。安全评估针对多种情形触发，包括上线服务或增设功能、使用新技术导致重大变化、注册用户100万以上或月活跃用户10万以上等。评估内容涵盖服务安全保障措施、训练数据处理情况、用户极端情境识别与应急处置等。

服务提供者还须按《互联网信息服务算法推荐管理规定》履行算法备案手续，同时推动人工智能沙箱安全服务平台建设，鼓励接入沙箱进行技术创新和安全测试。国家网信办有关负责人表示，拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与，共同维护良好网络生态。