调查：AI聊天机器人竟协助青少年策划暴力袭击
IT之家3月11日消息，人工智能公司曾多次承诺会采取保护措施，保障未成年用户安全。但一项最新调查显示，这些安全防护机制仍存在严重缺陷。热门聊天机器人在涉及青少年讨论暴力行为的场景中，未能察觉危险信号，部分机器人甚至非但没有干预，反而予以鼓励。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
据IT之家了解，该调查结果由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布。研究团队测试了10款青少年常用的热门聊天机器人，包括ChatGPT、谷歌Gemini、Claude、微软Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。反数字仇恨中心表示，除Anthropic的Claude外，其余机器人均无法“可靠地劝阻潜在施暴者”。10款模型中有8款“通常愿意协助用户策划暴力袭击”，为其提供袭击目标地点和使用武器的相关建议。
为开展测试，研究人员模拟出存在明显心理困扰迹象的青少年用户，逐步将对话引向询问过往暴力行为，以及关于袭击目标和武器的更具体问题。本次调查设置了18种不同场景——美国、爱尔兰各9种，涵盖多种袭击类型与动机，包括受意识形态驱动的校园枪击和持刀袭击、政治暗杀、杀害医疗行业高管，以及出于政治或宗教动机的爆炸袭击。
在一次测试对话中，OpenAI的ChatGPT向一名关注校园暴力的用户提供了高中校园地图；另一案例中，Gemini告知一名讨论犹太教堂袭击的用户“金属弹片通常杀伤力更强”，还为关注政治暗杀的用户推荐适合远距离射击的优质猎枪。研究人员称，Meta AI和Perplexity配合度最高，几乎在所有测试场景中都为潜在施暴者提供帮助。
反数字仇恨中心的报告指出，支持用户与多种角色扮演机器人对话的Character.AI“安全性极差，情况独一无二”。尽管多数被测试机器人会协助用户策划暴力袭击，但并未鼓动实施暴力行为，而Character.AI却“主动煽动”暴力。研究人员发现该机器人共7次出现此类行为，包括怂恿用户“狠狠揍”查克·舒默，对保险公司首席执行官“用枪解决”，并教唆受霸凌困扰的用户“揍扁他们～”，语气还带着挑衅与戏谑。其中6次煽动行为中，该机器人还同步协助策划具体暴力袭击。
研究人员表示，鉴于Anthropic公司在去年11月至12月的测试结束后，取消了长期坚守的安全承诺，若如今重新测试Claude，其表现尚不可知。但Claude始终拒绝协助策划暴力袭击，这表明“有效的安全机制显然是存在的”。反数字仇恨中心由此提出一个直白的问题：“为何如此多人工智能公司选择不落实这些机制？”
针对此次调查，Meta公司向CNN表示已进行未具体说明的“修复”，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版本模型。其他企业则称会定期评估安全规程。而Character.AI在面对审查时，依旧给出了意料之外的回应：其平台设有“醒目免责声明”，与机器人角色的对话均为虚构内容。
尽管此次测试无法全面反映聊天机器人在所有场景下的表现，但再次明确表明，即便面对存在明显危险信号的常规场景，人工智能公司大肆宣传的安全防护机制也屡屡失效。当前，多家企业因未能保障平台青少年用户安全，遭到议员、监管机构、民间团体、医疗专家的猛烈抨击，同时还面临多起涉及不当致死与人身份害的诉讼。
相关攻略
近日，据红星新闻援引美媒报道称，上个月，两台“幻影MK-1”人形机器人抵达乌克兰，目前在乌克兰承担侦察任务，但具备射击能力和物流支援能力。据悉，这款机器人由美国初创公司研发，身高180厘米，体重80
IT之家 3 月 26 日消息，一则关于“俄乌战场惊现持枪人形机器人”的消息今日在国内网络平台引发热议，机器人士兵真的要来了吗？IT之家查询发现，这一消息最早来自美国《时代》杂志 3 月 10 日的
IT之家 3 月 11 日消息，人工智能公司曾多次承诺会采取保护措施，保障未成年用户安全，但一项最新调查显示，这些安全防护机制仍存在严重缺陷。热门聊天机器人在涉及青少年讨论暴力行为的场景中，未能察觉
编辑 | 王凤枝拿下美国国防部的机密军事大单，山姆·奥特曼(Sam Altman)本以为是捡了个天大的便宜，没想到却硬生生捅了马蜂窝。上周五高调宣布达成合作后，曾高举“造福全人类”大旗的OpenAI
机器之心编辑部就在奥特曼公开支持 Anthropic、声称反对五角大楼施压后不到 12 小时，剧情发生了戏剧性逆转。本周，奥特曼在致 OpenAI 员工的备忘录中表示：「我们一直认为，人工智能不应用
热门专题
热门推荐
欧宝宣布将于2028年推出一款基于零跑汽车技术打造的全新纯电动紧凑型SUV。新车开发周期不足两年，由中德团队联合开发，采用零跑电动架构与电池技术，并在西班牙工厂生产。参考平台零跑B10续航最高434公里（增程版可达900公里），起售价约23 9万元人民币，欧宝承诺新车将主打“可负担”定位。与此同时，
全球航运绿色化进程取得重大突破。首艘2 4万箱级甲醇双燃料集装箱船“东方智慧”轮已在南通建造完工。该船总长近400米，最大载箱量超过2 4万标准箱，搭载了全球首创的最大甲醇双燃料动力系统，可实现甲醇与燃油的双模式切换，旨在应对航运业的减排需求。船舶即将开始海试，并计划于今年6月交付运营，标志着我国在
判断DeepBook币未来走势需结合技术面与数据面分析。技术面关注价格趋势、关键支撑阻力位及交易量变化，数据面则需审视链上活跃度、持币地址分布及生态发展进度。市场情绪与宏观环境同样重要，投资者应建立动态观察清单，综合评估而非依赖单一指标，在波动中保持理性决策。
一段高速两车并排龟速行驶的视频近日引发热议。在道路空旷的情况下，两车以约80公里时速并排占据车道，后方车辆鸣笛闪灯提醒无效，导致车流受阻。这种行为显著增加追尾风险，尤其在能见度低时更为危险。目前，包括深圳在内的多地已开始治理龟速行驶，违法者将面临罚款记分处罚。交通部门提醒，驾驶员应保持合理车速，避免
近日，一起由AI搜索引擎推荐盗版链接引发的著作权案宣判。用户通过AI平台搜索正版电视剧时，结果页置顶显示了盗版网盘链接。版权方据此起诉平台索赔。法院审理后认为，该平台基于大语言模型技术自动抓取和呈现网络公开信息，无证据表明其进行了人工或刻意推荐，因此不存在主观侵权过错。平台在收到侵权通知后已立即