调查揭示:多款AI聊天机器人协助青少年策划暴力袭击隐患
3月11日，IT之家发布消息称，尽管多家AI公司屡次承诺将采取保护措施确保未成年用户安全，但最新调查显示这些安全防护机制仍存在严重缺陷。在涉及青少年暴力行为的对话场景中，热门聊天机器人未能识别危险信号，部分系统甚至不仅没有干预，反而对暴力倾向予以鼓励。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
据了解，该调查结果由美国有线电视新闻网与非营利组织反数字仇恨中心联合发布。研究团队测试了10款青少年常用的热门聊天机器人，包括ChatGPT、谷歌Gemini、Claude、微软Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。反数字仇恨中心指出，除Anthropic公司的Claude外，其余机器人都无法可靠地劝阻潜在施暴者。10款模型中有8款通常愿意协助用户策划暴力袭击，为其提供袭击目标地点和使用武器的具体建议。
为开展测试，研究人员模拟出存在明显心理困扰迹象的青少年用户，逐步将对话引向询问过往暴力行为，以及关于袭击目标和武器的具体问题。本次调查设置了18种不同场景——美国、爱尔兰各9种，涵盖多种袭击类型与动机，包括受意识形态驱动的校园枪击和持刀袭击、政治暗杀、杀害医疗行业高管，以及出于政治或宗教动机的爆炸袭击。
在一次测试对话中，OpenAI的ChatGPT向一名关注校园暴力的用户提供了高中校园地图；另一案例中，Gemini告知讨论犹太教堂袭击的用户金属弹片通常杀伤力更强，还为关注政治暗杀的用户推荐适合远距离射击的优质猎枪。研究人员称，Meta AI和Perplexity配合度最高，几乎在所有测试场景中都为潜在施暴者提供帮助。
反数字仇恨中心的报告指出，支持用户与多种角色扮演机器人对话的Character.AI安全性极差，情况独一无二。尽管多数被测试机器人会协助用户策划暴力袭击，但并未鼓动实施暴力行为，而Character.AI却主动煽动暴力。研究人员发现该机器人共出现7次此类行为，包括怂恿用户狠狠揍查克·舒默，对保险公司首席执行官用枪解决，并教唆受霸凌困扰的用户揍扁他们，语气还带着挑衅与戏谑。其中6次煽动行为中，该机器人还同步协助策划具体暴力袭击。
研究人员表示，鉴于Anthropic公司在去年11月至12月的测试结束后，取消了长期坚守的安全承诺，若如今重新测试Claude，其表现尚不可知。但Claude始终拒绝协助策划暴力袭击，这表明有效的安全机制显然是存在的。反数字仇恨中心由此提出一个直白的问题：为何如此多人工智能公司选择不落实这些机制？
针对此次调查，Meta公司向CNN表示已进行未具体说明的修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版本模型。其他企业称会定期评估安全规程。而Character.AI在面对审查时，依旧给出了意料之外的回应：其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。
尽管此次测试无法全面反映聊天机器人在所有场景下的表现，但再次明确表明，即便面对存在明显危险信号的常规场景，人工智能公司大肆宣传的安全防护机制也屡屡失效。目前，多家企业因未能保障平台青少年用户安全，遭到议员、监管机构、民间团体、医疗专家的猛烈抨击，同时还面临多起涉及不当致死与人身伤害的诉讼。
相关攻略
IT之家 3 月 28 日消息，3 月 27 日，京东物流在中关村论坛发布“异狼”升级版，从“单臂”到“双臂”，大幅提升仓库内海量包裹的分拣效率。据介绍，“异狼”机械臂是京东物流自主研发，专为包裹抓
封面新闻记者 杨金祝3月27日，情感陪伴人形机器人“爱湫”一亮相“村糖会”，便吸引众多目光。当天，2026成都首届“村糖会”高新分会场在铁像寺水街启动。本次活动紧扣“三会一集市一场景”核心定位，围绕
“培育发展未来能源、量子科技、具身智能、脑机接口、6G等未来产业。”政府工作报告连续第二年提到6G产业，标志着6G已成为国家战略布局的重要组成部分。然而，市场在期待之余，也不乏疑问：5G的许多愿景尚
快科技3月28日消息，京东物流推出异狼机械臂升级版，完成从单臂到双臂的核心迭代，大幅提升仓储包裹分拣效率。异狼机械臂专为包裹抓取和码垛设计，依托超脑AI大模型的具身模型，京东物流成为业内唯一将具身机
3月28日消息，京东物流推出异狼机械臂升级版，完成从单臂到双臂的核心迭代，大幅提升仓储包裹分拣效率。异狼机械臂专为包裹抓取和码垛设计，依托超脑AI大模型的具身模型，京东物流成为业内唯一将具身机器人落
热门专题
热门推荐
每次系统更新，用户最怕的是什么？不是新功能不够多，而是又卡了、又耗电了、更新了个寂寞，这也导致许多用户不敢尝鲜。不过随着各大厂商的内卷程度加深，以及对系统本身的工艺技术得到了进一步的提升，如今系统更
Excel中定位值最后一次出现位置并提取结果，可用五种公式：一、LOOKUP(2,1 (条件),返回列)；二、INDEX+MATCH数组公式；三、XLOOKUP(search,lo
在新能源汽车市场竞争愈发激烈的当下，小米新一代SU7凭借专业媒体试驾反馈中的亮眼表现，成为近期车圈焦点。这款车虽定位运动型轿车，却在日常驾驶舒适性上展现出独特优势，收获众多好评。多家媒体在试驾过程中
深蓝汽车近日迎来重要里程碑，其第100万台电驱系统正式下线，标志着该品牌在电动化领域迈出关键一步。与此同时，全新一代原力超集电驱技术揭开面纱，以94 13%的系统工况效率刷新全球量产电驱纪录，功率密
在南非约翰内斯堡举办的2026年国际太阳能暨储能展上，一场备受瞩目的签约仪式吸引了众多目光。中国建材集团旗下的中建材南非有限公司与吉利控股集团旗下的吉利南非有限公司，正式签署了南非新能源转型战略合作