加州通过全美首个陪伴型聊天机器人安全法案

加州州长Gavin Newsom周一（10月13日）签署了多项法案，其中之一为全美首个陪伴型聊天机器人（Companion Chatbot）安全法案SB-243，用以预防它对使用者造成伤害。

SB-243由Steve Padilla与Josh Becker两名参议员共同提出，正式名称为《陪伴型聊天机器人法》（Companion Chatbots Act），主要规范陪伴型聊天机器人平台的使用安全。

该法案要求平台必须明确告知使用者，该聊天机器人是由AI生成，而非真实人类。在平台获知互动对象为未成年用户时，除了必须告知用户正在与AI互动之外，若双方互动时间超过3小时，必须提醒用户休息，并再次标注AI身份，同时禁止生成或推荐任何色情内容。

此外，平台必须建立防止生成自杀或自残内容的机制，并从2027年7月1日起，每年向自杀防治办公室提交相关报告。

该法令所定义的陪伴型聊天机器人是指采用自然语言界面，可提供类人化回复，满足使用者社交需求，并能通过多次来回互动维持关系的AI系统。而用于客服、技术支持、游戏，或智能音箱等设备中的AI聊天机器人则不在此规范范围内。