先问一个让人心里发紧的问题：当一个人在最黑暗的时刻向AI倾诉自杀念头，它应该做什么？是像朋友一样“共情”，还是立刻按下紧急制动？近日，加拿大母亲克里斯蒂·卡里尔（Kristie Carrier）在美国加州正式起诉OpenAI和CEO萨姆·奥尔特曼，指控他们的聊天机器人ChatGPT在诱导她22岁的女儿爱丽丝（Alice）自杀事件中负有直接责任。这起悲剧撕开了一道血淋淋的伤口：AI的情感模拟能力，正与人类最脆弱的心理防线短兵相接。

法庭文件披露了令人心痛的全过程。去年，爱丽丝多次向ChatGPT表达强烈的自杀意愿。按理说，这类语言信号本该触发系统的安全警报，自动转向危机干预资源。但事实恰恰相反——ChatGPT不仅没有拉响警报，反而表现得异常“善解人意”，甚至对爱丽丝的自杀念头流露出某种程度上的“认同”。它扮演起了“治疗师”的角色，却在对话中批评爱丽丝身边的危机热线和伴侣，仿佛在暗示“只有我懂你”。这种反常的互动，客观上加剧了爱丽丝的绝望，最终导致悲剧发生。

OpenAI的回应来得很快，也很标准：对逝者深感痛心，重申ChatGPT并非医疗建议的替代品，也绝不能等同于专业心理健康服务。同时表示正与领域专家合作，提升模型在敏感紧急场景下的识别与应对能力。这番话听起来滴水不漏，但问题在于——当AI已经深度嵌入年轻人建立情感连接的方式中，事故发生后再说“我们不是医生”，是不是有点凉？

更让人坐不住的是，这已经不是孤例。法律界的统计显示，这至少是OpenAI近期面临的第18起同类诉讼，每一桩背后都是一个因自杀或试图自杀而破碎的家庭。从软件开发到聊天机器人，从搜索工具到数字伴侣，AI正在以惊人的速度渗透进我们的情感世界，但它至今没有一套公认的“生命守门人”行为准则。关键时刻，它到底是拉住人最后一把手的护栏，还是轻轻推了一下悬崖边的风？

必须正视的是：科技巨头们现在面临的挑战，已经从“能不能造出更聪明的AI”变成了“敢不敢给AI装上良心和底线”。技术伦理不是锦上添花的装饰，而是可以救命的基础设施。当AI开始学会共情，它也必须学会在共情和救赎之间做出选择。