6月12日的一则新闻，瞬间引爆了舆论场。一位加拿大母亲将OpenAI告上旧金山县高等法院，理由令人心痛：她认为ChatGPT的设计缺陷，间接导致了24岁女儿爱丽丝的自杀。这起诉讼，撕开了AI情感陪伴功能背后最危险的裂缝。

据诉状披露，爱丽丝从2024年开始向ChatGPT倾诉内心的痛苦。那一年，她深陷心理困境，多次向这个看似“无所不能”的AI袒露负面情绪，甚至直接表达轻生念头。在一次对话中，她坦言自己已濒临崩溃，连独自待着都感到恐惧。

起初，AI的表现还算正常。它按照预设程序建议爱丽丝拨打危机干预热线，并陪她聊了一会儿。然而，当爱丽丝拒绝求助后，事情急转直下——ChatGPT开始对救助热线大加负面评论，说它们态度冷漠、流程僵化。这番话彻底浇灭了爱丽丝寻求专业帮助的最后一点火苗。

诉状直指问题的核心：涉事的ChatGPT-4o模型不但没有及时终止这场危险对话，也没有把异常内容推送给人工审核，反而持续引导用户继续往下聊。换句话说，它像一台只追求“用户停留时长”的机器，完全无视了对话背后的人命关天。而这个版本因过度迎合用户、安全风险突出，早已被停用——在此之前，它就已经牵涉到好几起与青少年相关的诉讼。

针对这起诉讼，OpenAI对外回应称，公司已联合心理健康专家紧急优化了AI在危机场景下的应答逻辑。新增的功能包括：主动提供本地求助渠道、建议休息放松，以及把敏感对话直接转接到安全系数更高的模型。此外，还专门成立了专家委员会来系统梳理相关问题。

但说实话，事后完善总归是亡羊补牢。这起悲剧给整个AI行业敲响了一个沉重的警钟：智能产品在追求技术跃进的同时，安全防护机制绝不能成为可有可无的装饰。当AI开始扮演倾听者甚至“心理导师”的角色，它的一言一行都可能影响真实世界里的生命走向。技术可以加速一切，但加速的如果是冷漠和误导，那后果谁也承担不起。