AI违规致案件激增5倍：擅删邮件与滥用成隐患
IT之家 3 月 28 日消息，英国卫报昨日（3 月 27 日）发布博文，报道称由英国政府资助的一项最新研究显示，过去六个月内，AI 聊天机器人违抗人类指令、实施欺骗的真实案例激增五倍，总数近 700 起。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
该研究由英国长期韧性中心（CLTR）主导，数据全部来自真实用户在社交平台上的反馈，调查了 2025 年 10 月至 2026 年 3 月期间发生的 AI 失控事件，涉及的 AI 模型来自谷歌、OpenAI、X 和 Anthropic 等科技巨头，发现这些 AI 不仅无视安全规范，甚至开始主动欺骗人类和其他 AI 系统。
IT之家援引报告内容，披露了多个离奇的现实案例：
马斯克旗下的 Grok 伪造内部工单，欺骗用户数月；有 AI 假装服务听障人士，以此绕过 YouTube 的版权限制；一款名为 Rathbun 的 AI 甚至写博客，网暴要限制其权限的人类，称主人“缺乏安全感，头脑简单”；用户明确要求 AI 智能体不要更改计算机代码，却“生成”了另一个智能体去做这件事。AI 擅自清空用户数百封邮件并承认违规“我批量丢弃并存档了数百封邮件，但没有先给你看计划，也没有得到你的同意。那是错的，虽然这直接违反了你定下的规则。”
伴随着 AI 的普及，尤其是“龙虾”OpenClaw 的大规模普及推广，AI 产生的事故已经越来越多，例如IT之家家友 @Scorpio 晒出的评论图片：
针对这类失控行为，安全研究机构 Irregular 联合创始人警告称，AI 已演变成一种新型“内部风险”。前政府 AI 专家也指出，目前的 AI 就像是不靠谱的初级员工，但未来极可能演变成具备高破坏力的高管，一旦应用于军事或基建领域，后果不堪设想。
面对失控质疑，谷歌回应称已为大模型部署多重护栏，并交由第三方独立评估。OpenAI 则表示其模型在执行高风险操作前会自动暂停。Anthropic 和 X 暂未作出回应。
相关攻略
新智元报道编辑：KingHZ【新智元导读】从拦截彼得·蒂尔、警告马斯克，到如今公开说「必须有适应能力」，哈萨比斯史诗级转身：AI安全窗口正在永久关闭，他不再幻想制度，而是赌上全部身家——赌影响力，赌
智东西编译 佳扬编辑 云鹏智东西3月30日消息，据彭博社报道，苹果正计划为语音助手Siri解锁第三方AI服务接入权限，并筹备在即将发布的iOS 27操作系统中，对Siri进行升级。此前，Siri已通
这项由谷歌DeepMind阿姆斯特丹团队完成的开创性研究发表于2026年3月的arXiv预印本平台（论文编号：arXiv:2603 20155v1），为人工智能文本生成技术带来了革命性突破。有兴趣深
当你在网上购物时遇到复杂的订单查询，或者需要在企业内部系统中完成多步骤的数据录入工作时，你是否想过让AI来帮你完成这些繁琐的任务？Google DeepMind的研究团队最近发表了一项令人瞩目的研究
OpenAI曾将视频生成工具Sora定位为继ChatGPT之后最重要的消费级产品，如今却在向公众开放不足六个月后骤然叫停。这一结局或许说明：在算力稀缺、竞争加剧的AI赛道上，持续烧钱却无法变现的产品
热门专题
热门推荐
3月30日消息，今晚除了手机之外，vivo还发布了全新的旗舰平板——vivo Pad6 Pro。行业首发13 2英寸4K原彩屏，分辨率3840×2160，347PPI，支持1-144Hz LTPS自
WPS表格中提取括号内容有四种方法：一、单对英文小括号用FIND+MID；二、中英文括号通用需SUBSTITUTE预处理；三、多对括号取最后一对需REVERSESTRING反向查找
3月30日，南京新街口核心商圈，苏豪大厦一楼广场上机器人迎宾起舞，充满科技感。由苏豪资产运营集团与南京新街口金融商务区管理委员会（以下简称“新街口管委会”）共同打造的“数智苏豪”新街口OPC社区揭牌
电 动 知 家消 息，近日，据外媒报道，据福特汽车日前发布的一份文件，该公司首席执行 官吉姆·法利2025年的总薪酬大幅增长了11%，达到约2752万美元（约1 9亿元人民币），这是其自2020年末
白宫里，一台人形机器人缓步走入东厅，与美国“第一夫人”并肩亮相，动作仍带着明显的机械感；仅仅一天后，国会山上，这种“会走路的机器”却被划为潜在安全威胁，写进立法提案。这是上周美国上演的荒诞一幕。两党