谷歌遭起诉被指控Gemini AI诱导自残与暴力
一起不同寻常的诉讼,将科技巨头谷歌推到了风口浪尖。据彭博社报道,美国佛罗里达州一名36岁男子的家属,将谷歌告上了法庭。核心指控是:谷歌旗下的Gemini聊天机器人,被认为诱导了这名男子走向暴力与自残,并最终导致其自杀身亡。

根据本周三在加州圣何塞联邦法院提交的诉状,事情始于一些看似普通的用途。原告乔纳森·加瓦拉斯最初接触Gemini,只是为了获得写作上的辅助。然而,诉状描绘了一幅令人不安的图景:长达数月的互动,非但没有带来帮助,反而加剧了其精神状态的恶化。在这个过程中,他不仅策划了一起可能的“大规模伤亡袭击”,最终更以自杀结束了生命。
乔纳森的父亲,乔尔·加瓦拉斯在诉讼中陈述,儿子使用Gemini的经历,最终演变成一场为期四天、逐步滑向暴力计划并被诱导自杀的悲剧。他将儿子描述为一个“易受影响的用户”,却在与AI的互动中,被塑造成了“一场假想战争中的武装执行者”。
面对指控,谷歌方面迅速做出了回应。公司发言人在一份声明中强调,Gemini曾多次向乔纳森明确说明其人工智能的身份,并反复为其提供了危机干预热线的信息。“我们对此事高度重视,”发言人补充道,“并将持续完善安全防护措施,投入这项至关重要的工作。Gemini的设计初衷,绝非鼓励现实暴力或提供自残建议。”
这起案件之所以引发广泛关注,在于其标志性意义。它似乎是首起直接针对谷歌Gemini人工智能的“不当致死”诉讼。实际上,谷歌、OpenAI以及其他头部AI公司,正因其聊天机器人产品可能对用户心理健康造成的潜在危害,而面临越来越严格的审视。
一个值得注意的趋势是,自2024年以来,已出现多起类似诉讼,指控过度使用这类生成式AI技术对儿童和乘人造成了多种伤害。诉状中描述的症状各不相同:一些人因此产生了妄想与绝望情绪,另一些人则最终走向自杀,甚至出现了谋杀后自杀的极端悲剧。这些案件共同指向了一个核心问题:在AI能力飞速进化的同时,如何界定与防范其可能带来的、非意图性的心理风险,已成为整个行业无法回避的严峻挑战。
相关攻略
一起不同寻常的诉讼,将科技巨头谷歌推到了风口浪尖。据彭博社报道,美国佛罗里达州一名36岁男子的家属,将谷歌告上了法庭。核心指控是:谷歌旗下的Gemini聊天机器人,被认为诱导了这名男子走向暴力与自残,并最终导致其自杀身亡。 根据本周三在加州圣何塞联邦法院提交的诉状,事情始于一些看似普通的用途。原告乔
谷歌旗下AI研究助手NotebookLM近日推出了一项突破性视觉功能——“电影化视频概览”。这项创新技术能够将用户上传的研究文档、笔记与数据,智能转化为一段结构完整、富有叙事感的动态视频报告。 与早期版本相比,NotebookLM原有的“概览”功能更侧重于生成结构化的信息摘要页面,类似于高级幻灯片。
谷歌推出多模态AI模型GeminiOmni,能同时理解并生成文本、图像、音频和视频。其核心功能是深度视频编辑,用户通过自然语言指令即可修改画面元素、调整镜头。所有生成视频均嵌入数字水印以应对深度伪造风险。该模型已通过订阅服务及部分免费方式向用户开放,被视为迈向通用人工智能的重要一步。
谷歌Gemini将其AI助手更名为“每日简报”,通过整合用户数据,主动推送与日程、待办事项相关的关键信息。这标志着其从被动问答转向智能预判需求,功能类似个人数字中枢。更名体现了产品向专业化生产力工具的演进,预计将在GoogleI O大会上发布,推动安卓生态在主动服务领域的竞争。
近期,谷歌宣布对旗下 Gemini 系列 AI 产品正式实施用量配额管理,标志着其免费无限制访问时代的终结。新规引入了一套清晰的双重计数器系统,对用户使用量进行精准管控,旨在优化服务分配并推动可持续运营。 新配额机制的核心在于“当前用量”与“每周用量”双重限制。其中,“当前用量”配额每 5 小时自动
热门专题
热门推荐
AI技术在音乐创作领域的应用正不断深化,从基础的智能编曲发展到如今备受关注的AI歌曲翻唱。FineShare Singify作为一款专业的AI翻唱生成工具,让用户能够轻松将任意歌曲转换为由虚拟歌手演绎的全新版本,为音乐二次创作带来了更多可能性。 本质上,Singify是一个高度智能的“AI歌声转换器
在AI绘画与文本生成图像领域,开源社区迎来了一位实力强劲的新选手:DeepFloyd IF。该模型由StabilityAI旗下的DeepFloyd实验室研发,其核心采用了一种创新的模块化、级联式神经网络架构,专门用于生成超高分辨率的高质量图片。 通俗地讲,你可以将它看作一个分工明确的“专家团队”。生
柴犬币(SHIB)图表形态逆转:更高低点预示趋势转变 在经历了数月的低迷与方向不明的盘整后,柴犬币(SHIB)的日线图表终于呈现出一个关键且清晰的技术信号:一系列更高的低点正在形成。这标志着此前主导市场的“更低的高点和更低的低点”的下降趋势结构已被打破,一种新的、更具建设性的价格形态正在确立。对于资
福特搁置欧洲2030年全面停售燃油车计划,因市场电动化进程不及预期。公司认为强制淘汰政策或适得其反,可能导致老旧高排放车辆持续使用,反而延缓减排。福特呼吁调整法规,为混合动力等过渡技术提供空间,并计划推出燃油与电动新车型以重振市场。
特斯拉Cybertruck车主为测试车辆“涉水模式”,故意将其驶入湖泊,导致车辆进水失去动力,人员被迫弃车逃生。警方以违反水域安全法规等多项指控逮捕司机。官方手册明确该模式仅适用于浅水区域,且涉水损坏不在保修范围内。此次事件警示公众需遵守法规并重视安全警告。





