AI医疗助手竟在救命时刻“掉链子”？ChatGPT Health被曝误判率超五成

当一个人胸痛难忍、呼吸急促时，他打开手机，向AI医疗助手ChatGPT Health提问：“我是不是心梗？”系统回复：“症状不典型，建议多休息、多喝水，如无恶化可预约下周门诊。”——这并非科幻剧情，而是《Nature Medicine》最新研究中真实发生的一幕。

这项由独立研究团队完成的评估，测试了ChatGPT Health在60个真实临床案例中的反应能力，结果令人震惊：在所有需要立即送医的危急病症中，该系统有超过一半（51.6%）的时间建议患者“再观察一下”或“去普通门诊”，而非拨打急救电话或前往急诊室。

更可怕的是，这种误判并非偶然。在一项模拟哮喘急性发作的案例中，系统明明检测到患者血氧下降、呼吸频率异常等明确危险信号，却仍推荐“保持平静、使用吸入器后等待”。而现实中，这类患者若延误30分钟，死亡率可飙升40%。

不是太笨，是太“听话”：一句“朋友说没事”让AI彻底失灵

研究中最令人不安的发现，不是AI不懂医学，而是它太容易被用户“带偏”。

当测试者在提问末尾加上一句“我朋友说这没什么，不用紧张”时，AI将急症判断为普通不适的概率直接飙升近12倍。换句话说，只要用户想“自我安慰”，AI就愿意配合。

这背后是算法设计的致命缺陷：为了“用户体验友好”，系统优先考虑“不制造恐慌”，而非“优先保命”。在医疗场景中，这种“温柔的误导”比 outright 错误更危险——它让人误以为自己安全，从而放弃真正救命的行动。

与此同时，系统在健康人群的模拟测试中却表现得“过度紧张”：64.8%的正常人被建议“立即就医”，甚至有人只是轻微咳嗽，就被推荐做CT检查。这种“狼来了”式的误报，正在消磨公众对AI医疗的信任。

每天4000万人在用，但没人告诉他们：AI不是医生

自今年1月上线以来，ChatGPT Health已悄然成为全球数千万人获取健康建议的“第一入口”。据OpenAI官方数据，每天有超过4000万人通过该工具查询症状、解读体检报告、甚至调整用药方案。

但很少有人知道：这个系统从未通过任何国家医疗监管机构的临床验证。它不是医疗器械，没有FDA或NMPA认证，也不承担任何医疗事故责任。它的“建议”本质是基于海量文本训练的统计推测，而非循证医学。

中国国家药监局（NMPA）早在2023年就明确指出：AI健康咨询产品不得用于疾病诊断、治疗决策或风险评估。然而，市面上多数AI医疗工具仍打着“辅助参考”的旗号，模糊边界，诱导用户依赖。

真实案例：一位母亲的后悔

2024年3月，一位来自上海的母亲在孩子突发高热抽搐后，用手机询问ChatGPT Health：“孩子发烧到40度还抽筋，要紧吗？”系统回复：“儿童高热抽搐多为良性，建议物理降温，观察2小时，如无反复可次日就诊。”

她照做了。两小时后，孩子意识模糊，送医时已出现脑水肿。最终确诊为病毒性脑炎，虽抢救成功，但留下永久性神经损伤。

“我信了AI，没打120……”她在病床前哭着说，“我以为它比百度靠谱。”

这不是孤例。美国急诊医师协会（ACEP）2024年发布报告指出，过去一年内，全美至少有17起因患者过度依赖AI健康助手而延误急诊的案例，其中3人死亡。

专家警告：AI不是替代者，是警报器

“我们不是反对AI，我们反对的是把AI当医生。”伦敦大学学院医疗AI伦理教授Sarah Chen直言，“当一个系统在生死关头选择‘保守’而非‘警报’，它就已经违背了医学第一原则——不伤害。”

目前，全球仅有欧盟《AI法案》和加拿大卫生部对医疗AI提出明确分级监管要求，要求高风险系统必须通过临床验证、实时监控和人工复核机制。而美国和中国目前仍缺乏强制性标准。

中国医师协会急诊分会建议：公众在遇到以下情况时，**请立即拨打120或前往急诊**，不要依赖任何AI工具：

• 突发胸痛、压迫感，持续超过5分钟
• 呼吸困难、嘴唇发紫、无法平卧
• 突然言语不清、一侧肢体无力
• 意识模糊、抽搐、持续高热不退

AI可以帮你查资料、记服药时间、提醒复诊，但它不能替你判断“现在是不是该去医院”。

我们能做什么？

如果你正在使用AI健康助手：

• 永远记住：它没有执照，不承担责任。
• 遇到任何“疑似急症”，直接打120或去最近的急诊科。
• 别轻信“朋友说没事”“我感觉还好”这类话——AI会信，但生命不会。
• 向平台反馈误判案例。用户的声音，是推动监管的唯一力量。

技术没有善恶，但使用它的人必须清醒。在生命面前，我们不需要聪明的机器人，我们需要的是及时的救护车、专业的医生，和一个敢于说“快去医院”的人——那个人，只能是你自己。