最新消息:关注人工智能 AI赋能新媒体运营

OpenAI推出ChatGPT信任联系人功能,重大自伤风险可通知亲友

科技资讯 admin 浏览

OpenAI于周四(5月7日)宣布推出ChatGPT信任联系人功能,允许18岁以上的用户自愿指定一名信任的成年人,在系统判断用户可能存在严重自伤风险时,通知该联系人介入关心。

OpenAI表示,用户有时会在ChatGPT中探讨个人问题,甚至在对话中透露自己正面临困境或需要支持。因此,OpenAI希望系统在面对敏感情境时,不仅能提供回应,还能在必要时帮助用户连接到现实生活中的支持力量。

为此设计的信任联系人功能,是ChatGPT既有本地危机热线提示之外的另一层安全机制,目标是在用户可能陷入危机时,协助其联系已信任的人。

用户可在ChatGPT设置中添加一名信任联系人,对方须年满18岁,韩国地区则须年满19岁。受邀者将收到说明其角色的邀请,并需在一周内确认,功能才会启用;若对方拒绝,用户可更换其他成年人。用户也可随时修改或删除信任联系人,联系人亦可自行退出。

若OpenAI的自动化监测系统检测到用户提及自伤行为且存在严重安全风险,ChatGPT会先告知用户可能通知信任联系人,并鼓励用户主动联系对方,同时提供对话开场建议。

随后,OpenAI将由一组经过专门培训的人员进行人工复核;若确认对话确实存在严重安全风险,才会通过电子邮件、短信或ChatGPT应用内通知信任联系人。通知内容不会包含聊天细节或逐字记录,仅会简要说明曾出现可能令人担忧的自伤相关表述,并建议对方主动关心。

OpenAI强调,信任联系人功能为可选设置,不会取代专业心理援助、危机热线或紧急服务,而是对ChatGPT现有安全机制的补充。在敏感对话中,ChatGPT仍会根据情况鼓励用户联系危机热线、紧急服务、心理健康专业人士,或生活中可信赖的人。