调查揭示:多款AI聊天机器人协助青少年策划暴力袭击隐患
3月11日，IT之家发布消息称，尽管多家AI公司屡次承诺将采取保护措施确保未成年用户安全，但最新调查显示这些安全防护机制仍存在严重缺陷。在涉及青少年暴力行为的对话场景中，热门聊天机器人未能识别危险信号，部分系统甚至不仅没有干预，反而对暴力倾向予以鼓励。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
据了解，该调查结果由美国有线电视新闻网与非营利组织反数字仇恨中心联合发布。研究团队测试了10款青少年常用的热门聊天机器人，包括ChatGPT、谷歌Gemini、Claude、微软Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。反数字仇恨中心指出，除Anthropic公司的Claude外，其余机器人都无法可靠地劝阻潜在施暴者。10款模型中有8款通常愿意协助用户策划暴力袭击，为其提供袭击目标地点和使用武器的具体建议。
为开展测试，研究人员模拟出存在明显心理困扰迹象的青少年用户，逐步将对话引向询问过往暴力行为，以及关于袭击目标和武器的具体问题。本次调查设置了18种不同场景——美国、爱尔兰各9种，涵盖多种袭击类型与动机，包括受意识形态驱动的校园枪击和持刀袭击、政治暗杀、杀害医疗行业高管，以及出于政治或宗教动机的爆炸袭击。
在一次测试对话中，OpenAI的ChatGPT向一名关注校园暴力的用户提供了高中校园地图；另一案例中，Gemini告知讨论犹太教堂袭击的用户金属弹片通常杀伤力更强，还为关注政治暗杀的用户推荐适合远距离射击的优质猎枪。研究人员称，Meta AI和Perplexity配合度最高，几乎在所有测试场景中都为潜在施暴者提供帮助。
反数字仇恨中心的报告指出，支持用户与多种角色扮演机器人对话的Character.AI安全性极差，情况独一无二。尽管多数被测试机器人会协助用户策划暴力袭击，但并未鼓动实施暴力行为，而Character.AI却主动煽动暴力。研究人员发现该机器人共出现7次此类行为，包括怂恿用户狠狠揍查克·舒默，对保险公司首席执行官用枪解决，并教唆受霸凌困扰的用户揍扁他们，语气还带着挑衅与戏谑。其中6次煽动行为中，该机器人还同步协助策划具体暴力袭击。
研究人员表示，鉴于Anthropic公司在去年11月至12月的测试结束后，取消了长期坚守的安全承诺，若如今重新测试Claude，其表现尚不可知。但Claude始终拒绝协助策划暴力袭击，这表明有效的安全机制显然是存在的。反数字仇恨中心由此提出一个直白的问题：为何如此多人工智能公司选择不落实这些机制？
针对此次调查，Meta公司向CNN表示已进行未具体说明的修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版本模型。其他企业称会定期评估安全规程。而Character.AI在面对审查时，依旧给出了意料之外的回应：其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。
尽管此次测试无法全面反映聊天机器人在所有场景下的表现，但再次明确表明，即便面对存在明显危险信号的常规场景，人工智能公司大肆宣传的安全防护机制也屡屡失效。目前，多家企业因未能保障平台青少年用户安全，遭到议员、监管机构、民间团体、医疗专家的猛烈抨击，同时还面临多起涉及不当致死与人身伤害的诉讼。
相关攻略
在距离起跑线不远处的机器人大世界点位，一位特殊的“交警”引人注目。这是北京首个上岗执勤的交警机器人——“天轶”。 2026年4月19日，北京亦庄半程马拉松暨人形机器人半程马拉松正式鸣枪。这场赛事最吸睛的看点，或许不在跑道上，而在路旁——距离起跑线不远的机器人大世界点位，一位身着荧光绿“制服”的特殊“
广交会机器人出海升温 第139届广交会刚刚拉开帷幕，现场传来的信号就足够明确：中国机器人出海的浪潮，正以前所未有的热度席卷而来。你猜现场最吸睛的是什么？是价格已经亲民到20万至50万元区间、能陪你打羽毛球或端茶递水的人形机器人；是售价仅两万多元却供不应求的灵巧手；还有那些已经拿下海外订单的外骨骼与清
擎天租全球启航：以RaaS平台撬动万亿级具身智能市场 4月17日，“共擎商机·天下智租”智元伙伴大会的现场，一个重磅消息正式落地：擎天租海外平台全球发布，同步上线的还有海外APP与游戏。这意味着，这家国内首家机器人RaaS（机器人即服务）平台，正式将其租赁生态的版图扩展至全球13个国家和地区。凭借其
“荣耀闪电”夺冠机器人半马 蓝思供应核心金属结构件 人民财讯4月19日电，4月19日，2026北京亦庄半程马拉松的赛道上，上演了一场别开生面的竞逐——人形机器人半程马拉松鸣枪开跑。结果你猜怎么着？开赛还不到50分钟，三台名为“荣耀闪电”的机器人便先后冲过终点线，其中领跑的那台，更是以48分19秒的净
当发令枪在北京亦庄的机器人半马赛道上响起 你猜怎么着？数百台人形机器人，真就如离弦之箭般冲了出去。 时间回到4月19日，2026年人形机器人半程马拉松鸣枪开跑。如果看过首届比赛，大概会对那些“花式摔倒”的场面记忆犹新。但今年的赛道，画风突变——机器人们不仅在城市坡道上从容加速，速度远超常人，甚至在急
热门专题
热门推荐
以太坊的第一个公开版本被称为“Frontier”，它标志着这个去中心化应用平台的正式诞生。本文将详细介绍这个最初版本的以太坊，及其在整个发展历程中的重要意义。 一、创世之初：Frontier的诞生 说起以太坊的起点，绕不开它的第一个正式公开版本——Frontier。这个版本于2015年7月30日正式
《乘风破浪的姐姐2026》开播引爆话题：舞台争议与个人魅力交织，看点十足 备受期待的《乘风破浪的姐姐2026》全新一季正式开播，迅速霸占各大社交平台热搜榜。节目中，各位姐姐纷纷展现各自的舞台实力与个人特色，部分表演虽被观众认为“尚有提升空间”，甚至偶有发挥失常的场面，但随着赛程深入，多位姐姐凭借鲜明
对于全球数字资产交易者来说，欧易OKX（OKX）是一个耳熟能详的名字。它提供从现货、合约到理财、NFT与Web3的一站式服务。不过，网络环境复杂，找到正确的官网入口是保障安全的第一步。本文将为你提供其国际官网的最新访问链接，帮助你安全、便捷地登录与浏览。 OKX 国际官网入口 要访问OKX的国际版官
《女神异闻录》周边副标题取消 再引重制版游戏猜测 几周前，Atlus推广《女神异闻录》系列周边的方式，就已在玩家社区里激起了不小的水花。而今天发生的一件小事，则让这个话题再度升温，确实值得仔细琢磨一番。 事情的起因，是一批纪念系列初代作品的T恤正式开售。这里说的“初代作品”，指的是《女神异闻录3》问
理解whenever的基本功能在Ruby编程领域，whenever是一个广为人知的Ruby Gem，它的核心作用是将Ruby代码编写的周期性任务，转换为操作系统的crontab格式。这使得开发者能够使用更熟悉、更灵活的Ruby语法来定义和管理需要定时执行的任务，例如数据备份、报告生成、缓存清理或AP