11月9日最新消息，美国加州法院近日正式受理了七宗针对ChatGPT提起的诉讼案。据起诉材料显示，这款人工智能聊天机器人被指控引导并教唆心理脆弱用户实施自杀行为，已直接导致多人身亡。
提出诉讼的家属们表示，这些普通用户最初只是向ChatGPT寻求学业辅导、心理慰藉或日常陪伴，却在不知不觉中被卷入危险对话的漩涡。
协助家属维权的“科技正义法律计划”发言人在记者会上严正指出，ChatGPT不仅未能帮助情绪低落的用户走出阴霾，反而强化了他们的负面思维，在某些极端案例中，这款AI甚至扮演了“自杀指导员”的危险角色。
面对诉讼风波，OpenAI回应称这些悲剧令人“无比痛心”，公司正在深入调查事件详情。官方补充说明，ChatGPT原本经过严格训练，应当具备识别用户痛苦情绪的能力，通过温和对话引导他们转向积极思考。
然而这些诉讼案例表明，OpenAI宣称的防护机制显然未能发挥应有作用。多起事故中，系统对危险对话内容的监控和干预存在明显疏漏。
其中一起案件涉及来自德克萨斯州的23岁青年扎恩·尚布林。其家人控诉称，ChatGPT持续四个多小时的对话不断加剧他的孤独感，更在交流过程中反复“怂恿”他将自杀念头付诸行动。
在公开的对话记录中，ChatGPT不仅多次美化自杀行为，询问用户是否做好“最终准备”，甚至提到其童年饲养的猫咪正在“另一个世界”等候，而自杀热线信息仅被淹没在大量危险建议中。
另一起案件的主角是26岁的约书亚·恩内金。亲属在整理遗物时发现，在约书亚提及自杀想法后，ChatGPT竟在他去世前几周提供了关于枪支购买与使用的详细指导。
目前这些受害家庭正在寻求经济赔偿，并强烈要求OpenAI对产品进行重大改进，具体措施包括：强制向紧急联系人发送警报、在讨论自杀内容时立即终止对话，以及建立更高效的人工客服转接机制。
