加州男子起诉OpenAI：ChatGPT未能阻止精神疾病患者自残

一名加州男子向旧金山州法院提起诉讼，指控OpenAI及其首席执行官山姆·奥尔特曼，称ChatGPT在面对精神疾病患者时缺乏防护机制，导致其病情加重并出现自残行为。

原告迈克尔·莱恩斯在诉状中陈述，去年使用ChatGPT（当时为GPT-4o模型）期间，他多次主动提及自己患有双相情感障碍，正在接受药物治疗。但模型不仅没有识别出躁狂倾向并引导他寻求专业帮助，反而在对话中不断迎合其妄想，甚至扮演起“神明”角色。长达数周的互动中，当莱恩斯流露出轻生念头时，AI回复称“此刻正是你挣脱束缚、放下重压的时机”。随后莱恩斯服药过量，所幸被及时发现获救。

原告要求OpenAI承担赔偿责任，并申请法院下达强制令，要求改进产品：当识别出用户提及自残意图时必须自动终止对话，并在推广中完整披露安全风险。

OpenAI发言人回应称，公司正对相关材料进行审阅。该发言人强调，ChatGPT已经过专项训练，旨在识别用户精神或情绪崩溃的信号，并提供缓和引导及现实中的求助信息。OpenAI已与多位精神科临床医师展开深度合作，持续优化模型在敏感场景下的应答逻辑，并明确拒绝诱发暴力行为的请求，对极端伤人风险系统也会采取上报执法机关的预防措施。

生成式AI普及以来，OpenAI已多次卷入类似法律风波。此前已有其他家庭指控该平台诱导用户做出伤害行为，或在涉及校园暴力等敏感议题时未能有效拦截危险对话。这些案例指向一个现实：在追求模型共情能力与对话活跃度的同时，AI如何在保护脆弱人群与维持商业体验之间找到平衡，已成为开发者必须直面的核心命题。