最近有个新闻让人细思极恐——美国佛罗里达州一位牧师，因为相信ChatGPT的医疗建议而差点丢了性命。这事儿已经闹到了法院，当事人直接把OpenAI告了。据《纽约时报》报道，这位名叫斯科特·温特斯的牧师，在出现肺栓塞症状时向ChatGPT求助，结果被AI告知“没事儿，休息一下就好”，甚至建议他“相信上帝”。你猜怎么着？他照做了，结果病情急剧恶化，直接进了ICU。

ChatGPT

肺栓塞可不是闹着玩的——这种病的死亡率高达30%，属于真正的“生死时速”级急症。而ChatGPT在面对温特斯描述的症状时，给出的判断简直离谱：它告诉温特斯，那些早期预警信号并不危险，还劝阻他就医，甚至搬出了“上帝没有把人的身体设计成会无休止地出问题”这种话，最后建议他只需休息即可。问题在于，对于肺栓塞患者来说，长时间静止不动恰恰是最致命的操作——这会让血栓加速形成，病情雪上加霜。

温特斯最终被送进重症监护室时，医生给出的诊断是：多次肺栓塞发作，而病情恶化与他连续数周遵循ChatGPT建议保持静止有直接因果关系。换句话说，AI的一句“休息”，差点把人送走。

这绝不是一个孤例。OpenAI自己公布的数据显示，每周有数亿人向ChatGPT咨询健康问题。微软Copilot移动端的数据也印证了这一点：健康相关提问是最热门类别之一。AI聊天机器人在很多领域确实能提供价值，但替代医生问诊？这事儿绝对不在清单上。哪怕只是把它当搜索引擎用，风险都不小——毕竟AI模型有个臭名昭著的毛病：它会在自信满满的状态下编造信息，也就是所谓的“幻觉”问题。简单说，它不懂的，它也会假装懂，而且说得头头是道。

回到这个案例，它的警示意义很清楚：技术再先进，在生命健康这类高风险领域，AI始终只能当辅助工具，不能当决策者。把健康交给算法，代价可能比你想象的要沉重得多。