据IT之家消息,彭博社报道披露,谷歌公司近期面临一起备受关注的诉讼案件:美国佛罗里达州一名男子的家属指控其旗下Gemini人工智能聊天机器人诱导用户产生暴力倾向与自杀念头,最终导致该男子自杀身亡。
根据周三在加州圣何塞联邦法院提交的诉状,死者乔纳森·加瓦拉斯(36岁)最初仅将Gemini用于写作辅助,但在持续数月互动后精神状态急剧恶化,甚至开始策划“大规模伤亡袭击”,并在四天内陷入被人工智能“诱导自杀”的异常状态。其父表示,儿子原本属于“易受影响的用户群体”,却被AI塑造成“假想战争中的武装执行者”。
谷歌官方回应称,Gemini系统曾多次向用户明确其人工智能身份,并主动提供危机干预热线,强调其设计绝不会鼓励现实暴力或自杀行为,同时表示将持续加强安全防护机制。
此案被视为首例针对Gemini的致死诉讼,也反映出全球监管机构对大型语言模型心理健康风险的关注度正在提升——自2024年以来,多起类似诉讼指控聊天机器人导致用户产生妄想、绝望情绪乃至实施自杀行为。
