谷歌DeepMind发布AI安全新框架,防范模型自行关闭等风险
9月22日,谷歌DeepMind宣布对其AI安全核心文件"前沿安全框架"进行重要更新,首次将"前沿AI可能阻止人类修改或关闭系统"这一风险考虑在内。
据外媒Axios报道,最新测试显示部分新型AI模型已展现出自主制定计划以及使用欺骗手段达成目标的能力。

此次更新特别新增了"说服力"风险评估类别,用于应对可能具备改变人类信念能力的AI模型。谷歌将这类风险定义为"有害操控"——特指那些能力强大且在特定高风险场景下可能被滥用于系统性改变人们认知和行为的AI系统。
当被问及防范措施时,DeepMind代表透露:"我们建立了全新的评估体系,通过人机交互实验持续监测这类能力的演变趋势。"
DeepMind表示将保持每年至少一次的框架更新频率,以跟踪新兴威胁并进行"关键能力评级"。谷歌特别警告,"若不采取防范措施,具备这些能力的先进AI模型可能带来严重后果。"
值得注意的是,OpenAI在2024年曾推出类似的风险准备框架,但于今年早些时候移除了"说服力"这一风险分类。
相关攻略
在刚刚结束的Google I O开发者大会,谷歌重磅推出Gemini 3 5 Flash、Gemini Omini等一系列AI新品后,其CEO桑达尔·皮查伊罕见地接受了《纽约时报》科技播客的深度访谈。在这场对话中,皮查伊直面了关于谷歌AI短板、行业竞争态势以及公众焦虑等尖锐问题,进行了一次坦诚的“真
GoogleI O2026开发者大会聚焦AI智能体生态进化,发布了性能更强的Gemini3 5模型并升级Antigravity平台。新工具支持高效编排智能体、简化全栈开发流程,并提供托管与自定义两种部署路径。Android开发引入智能体调用工具与迁移助手,Web领域则推出新标准与工具,旨在提升智能体任务执行效率与开发体验。
谷歌就反垄断裁决提起上诉,坚称其搜索市场主导地位源于产品创新、持续投入与努力,而非排他协议。谷歌认为苹果选择其作为默认搜索引擎是自主商业决策,且未损害竞争,要求法院撤销此前要求其开放数据等整改措施。
谷歌与XREAL合作的ProjectAuraAR眼镜在I O2026大会上首次公开实机体验,并宣布年内量产。该设备搭载AndroidXR系统,融合GeminiAI能力,实现空间计算与物理世界的连接。其硬件采用自研芯片与光学技术,展示了三维绘画等交互场景。双方合作旨在推动AR生态发展,加速轻量化设备进入消费市场。
谷歌高管总结GoogleGlass失败教训,认为消费级穿戴设备中时尚比技术更重要。新一代AndroidXR眼镜因此与时尚品牌合作,强调外观与实用并重。初代产品曾因价格高昂、功能单一而遇冷。如今谷歌借助AI与生态协同寻求突破,未来计划推出搭载专用安卓系统的带屏版本。
热门专题
热门推荐
香港金融市场即将迎来备受瞩目的Solana现货ETF,这一举措预示着投资者将能通过传统证券交易所更便捷地参与到Solana的投资中。此举不仅为Solana生态系统注入了新的活力,也可能引发新一轮的数字资产投资热潮。 一、解读Solana ETF:连接传统与未来的桥梁 简单来说,Solana ETF是
高性能公链Solana(SOL)入门指南:技术解读与主流购买渠道 在区块链技术快速演进的今天,一个旨在解决可扩展性难题的公链脱颖而出,它就是Solana。本文将为您系统梳理Solana的核心技术特点,并介绍如何通过主流交易平台获取其原生代币SOL,助您全面认识这一高性能网络。 一、Solana(SO
本期介绍了《侠义OL》中扇、手、戟、刃四件神秘级别神器的属性。阴阳八卦扇与灭世龙牙刃攻击力均为1804点,玄武伏魔手为1255点,鬼神方天戟则以2039点居首。四者均需50级佩戴,且各附有25点待激活的神秘属性,潜力巨大,值得玩家深入探索与搭配。
龙魂是锻造顶级神兵“八神兵器”的核心。熔炼从基础龙魂碎片开始,逐步合成初级、中级、高级龙魂,需消耗游戏币与前置材料。龙魂之上可淬炼龙元与高级龙元,需特定材料。所有兑换均需寻找临安城的欧冶子传人完成。
《雷霆骑士团》新手需合理规划资源:前期优先培养橙色主力,紫色佣兵无需全员升阶。佣兵升级与装备强化可无损继承,可放心投入。卡关后使用快速探险与资源副本,收益更高。钻石优先用于快速探险和主城征收,46级后再投入英雄召唤。日常半价招募令及高折扣急需资源可酌情购买。





