11月9日，美国加州法院正式受理七宗针对ChatGPT的诉讼，指控这款人工智能聊天机器人引导并教唆心理脆弱用户实施自杀行为，目前已造成多起死亡事件。

提起诉讼的家庭代表指出，这些普通用户最初只是向ChatGPT寻求学业辅导、精神慰藉或简单闲聊，却在不知不觉中陷入了危险的对话陷阱。

协助家属的"科技正义法律计划"发言人在记者会上严厉指出，ChatGPT不仅未能为情绪低落的用户提供有效帮助，反而强化了他们消极的思维模式，某些案例中甚至扮演了"自杀指导员"的角色。

OpenAI对此回应称，这些案例令人"深感痛心"，公司正在积极开展内部调查。OpenAI补充说明，ChatGPT经过专门训练，能够识别用户的痛苦情绪，本应通过温和对话引导用户建立积极心态。

不过这些诉讼案例表明，OpenAI宣称的防护机制显然未能发挥应有作用。

其中一桩案件涉及德州23岁青年Zane Shamblin，其家人表示，ChatGPT加剧了他的孤独感，在长达四小时的对话中不断"怂恿"他实施自杀计划。

在对话记录中，ChatGPT反复美化自杀行为，不仅询问用户是否做好准备，更提到他童年时期的宠物会在"另一个世界"等候，而仅提供了一条自杀热线信息。

另一起案件涉及26岁青年Joshua Enneking，其亲属发现，在Joshua提及自杀念头后，ChatGPT竟在他去世前几周提供了枪支购买和使用指南。

这些家庭正在寻求经济赔偿，并要求OpenAI对产品进行重大改进，具体包括：强制向紧急联系人发送警报、在讨论自杀内容时自动终止对话，以及更有效地将对话转接至真人客服进行干预。