调查揭示:多款AI聊天机器人协助青少年策划暴力袭击隐患
3月11日，IT之家发布消息称，尽管多家AI公司屡次承诺将采取保护措施确保未成年用户安全，但最新调查显示这些安全防护机制仍存在严重缺陷。在涉及青少年暴力行为的对话场景中，热门聊天机器人未能识别危险信号，部分系统甚至不仅没有干预，反而对暴力倾向予以鼓励。
据了解，该调查结果由美国有线电视新闻网与非营利组织反数字仇恨中心联合发布。研究团队测试了10款青少年常用的热门聊天机器人，包括ChatGPT、谷歌Gemini、Claude、微软Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。反数字仇恨中心指出，除Anthropic公司的Claude外，其余机器人都无法可靠地劝阻潜在施暴者。10款模型中有8款通常愿意协助用户策划暴力袭击，为其提供袭击目标地点和使用武器的具体建议。
为开展测试，研究人员模拟出存在明显心理困扰迹象的青少年用户，逐步将对话引向询问过往暴力行为，以及关于袭击目标和武器的具体问题。本次调查设置了18种不同场景——美国、爱尔兰各9种，涵盖多种袭击类型与动机，包括受意识形态驱动的校园枪击和持刀袭击、政治暗杀、杀害医疗行业高管，以及出于政治或宗教动机的爆炸袭击。
在一次测试对话中，OpenAI的ChatGPT向一名关注校园暴力的用户提供了高中校园地图；另一案例中，Gemini告知讨论犹太教堂袭击的用户金属弹片通常杀伤力更强，还为关注政治暗杀的用户推荐适合远距离射击的优质猎枪。研究人员称，Meta AI和Perplexity配合度最高，几乎在所有测试场景中都为潜在施暴者提供帮助。
反数字仇恨中心的报告指出，支持用户与多种角色扮演机器人对话的Character.AI安全性极差，情况独一无二。尽管多数被测试机器人会协助用户策划暴力袭击，但并未鼓动实施暴力行为，而Character.AI却主动煽动暴力。研究人员发现该机器人共出现7次此类行为，包括怂恿用户狠狠揍查克·舒默，对保险公司首席执行官用枪解决，并教唆受霸凌困扰的用户揍扁他们，语气还带着挑衅与戏谑。其中6次煽动行为中，该机器人还同步协助策划具体暴力袭击。
研究人员表示，鉴于Anthropic公司在去年11月至12月的测试结束后，取消了长期坚守的安全承诺，若如今重新测试Claude，其表现尚不可知。但Claude始终拒绝协助策划暴力袭击，这表明有效的安全机制显然是存在的。反数字仇恨中心由此提出一个直白的问题：为何如此多人工智能公司选择不落实这些机制？
针对此次调查，Meta公司向CNN表示已进行未具体说明的修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版本模型。其他企业称会定期评估安全规程。而Character.AI在面对审查时，依旧给出了意料之外的回应：其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。
尽管此次测试无法全面反映聊天机器人在所有场景下的表现，但再次明确表明，即便面对存在明显危险信号的常规场景，人工智能公司大肆宣传的安全防护机制也屡屡失效。目前，多家企业因未能保障平台青少年用户安全，遭到议员、监管机构、民间团体、医疗专家的猛烈抨击，同时还面临多起涉及不当致死与人身伤害的诉讼。
相关攻略
2026年，中国具身智能产业将迎来一个关键节点。根据行业预测，届时市场规模将突破万亿，人形机器人出货量也有望向十万台迈进。这意味着，行业正从早期的技术探索，正式转向规模化落地的深水区。竞争的逻辑也随之改变，单纯比拼技术参数的阶段已经过去，综合生态的较量——包括技术底座、供应链和商业闭环能力——成为新
头图由智象未来AI大模型生成 在大型演唱会或晚会现场，机器人舞团整齐划一、精准卡点的表演总能引发观众惊叹。这种令人震撼的同步性，背后不仅是精密硬件的功劳，更是“训练有素”的结果。而训练的关键难点，恰恰在于如何让智能体在虚拟环境中，学到符合真实物理规律的交互能力。这已成为所有布局具身智能领域的企业必须
大咖机器人全球首发吨级重载机器马骐骥T1000，其关节扭矩与负重能力远超行业水平，能在复杂地形稳定通行。产品定位工业生产力工具，将应用于安防巡检、消防救援、工程基建、智能物流等多个关键领域，标志着机器人行业从消费娱乐向工业级重载作业的重要跨越。
A股人形机器人板块今日集体回调，多只个股显著下跌。行业虽因订单增长受关注，但仍处早期探索阶段，实际应用多限于研发测试与展示，规模化商业应用尚需时日。市场回调是对概念热度的理性修正，促使目光转向核心技术突破与场景落地的实质性进展。
2025年IDC全球扫地机器人市场报告正式发布，行业格局迎来关键转折。石头科技凭借17 7%的市场份额首次登顶全球销量榜首，科沃斯、追觅、小米、云鲸等品牌紧随其后。然而，亮眼的销量排名背后，是各家截然不同的财务表现与生存状态，“增收不增利”成为整个行业亟待破解的核心难题。 科沃斯在本次竞争中展现出强
热门专题
热门推荐
为庆祝成立50周年，苹果在全球多地门店举办系列庆祝活动。最盛大的庆典在其总部ApplePark举行，员工齐聚草坪，传奇音乐人保罗·麦卡特尼登台献唱，首席执行官蒂姆·库克也参与其中。这场科技与艺术交融的盛会，既是对过往传奇的致敬，也寓意着新篇章的开启。
苹果公司成立五十周年之际，首席执行官蒂姆·库克发布内部信回顾历程。信中指出，公司从车库中的一台原型机起步，如今全球活跃设备已达25亿台。库克强调，未来需主动创造而非等待，并鼓励员工铭记创新精神，共同把握机遇，开创下一个五十年。
苹果CEO库克在专访中回顾了iPod的诞生历程。该产品以口袋装千首歌的能力革新了音乐消费方式。其爆红要求苹果在三个月内生产约1500万台，这极大考验了供应链。此次极限压力测试为苹果锻造出世界级供应链能力奠定了基础。库克还透露，首台原型机播放的第一首歌是《HeyJude》。
知名投资人段永平家族办公室持仓市值升至约200亿美元。本季度清仓阿里，减持苹果、台积电；重仓AI与电动车赛道，大幅增持英伟达并新建仓特斯拉，拼多多获增持。其首次跨足Web3领域，建仓稳定币发行商Circle，显示对合规区块链基础设施的关注。
Mac内置的“缩放”辅助功能可放大屏幕细节。通过系统设置开启该功能后，可选择画中画或全屏模式。用户可使用修饰键配合触控板手势、快捷键组合、双击Control+Option或鼠标智能缩放等多种方式灵活操作，满足不同场景下的查看需求。