游乐游手机版
首页/AI热点日报/热点详情

ICML放榜:清华阿里获最高奖,谷歌DeepMind再获经典奖

类型:热点整理2026-07-07
ICML公布获奖名单,清华大学与阿里巴巴合作的JustGRPO算法获杰出论文奖,在GSM8K上准确率达89 1%。MIT与耶鲁大学联合提出扩散模型高精度采样算法。谷歌DeepMind2016年异步强化学习框架获时间检验奖。立场论文警示对齐技术易被滥用。

今天,全球机器学习领域三大顶会之一ICML公布了获奖名单。来自清华大学和麻省理工学院的两篇与扩散模型相关的论文,一举拿下杰出论文奖——这个奖项代表着本届获奖论文中的最高水准。

▲ICML官宣获奖名单

其中一篇来自清华大学黄高团队,作者名单中还包括了阿里巴巴集团的研究人员。这篇论文提出了一个极其简洁的算法JustGRPO,在GSM8K数学推理数据集上准确率达到89.1%,同时完整保留了扩散模型并行解码的优势。

获得杰出立场论文奖的论文,则从另一个角度审视了当前的对齐技术。作者指出,这些技术很容易被恶意主体利用,用来实施信息审查与舆论操控。论文作者是慕尼黑大学博士生Sarah Ball和独立AI治理研究者Phil Hackemann。

时间检验奖颁给了谷歌DeepMind在2016年发表的一篇论文,它引入了一种利用多个CPU核心来加速单台机器训练的强化学习框架,在arXiv上被引用超过1.5万次。作者阵容相当豪华,包括AlphaGo、AlphaZero的首席研究员Da vid Silver,以及谷歌DeepMind CTO、谷歌首席AI架构师Koray Ka vukcuoglu。

本届ICML共颁发了2项杰出论文奖、1项杰出立场论文奖和1项时间检验奖。作为与NeurIPS、ICLR齐名的顶会,ICML自1980年创立以来,一直是全球首个专门聚焦机器学习的顶级学术会议,大量里程碑论文都曾在这里首发。

01.清华、阿里联手,拿下ICML杰出论文

清华大学黄高团队获奖论文的标题是《灵活性陷阱:重新思考扩散语言模型中任意顺序的价值(The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models)》。

扩散大语言模型与传统模型最大的不同在于,它打破了从左至右的刚性生成约束,支持以任意顺序生成文本token。直观来看,这种灵活性让它的解空间严格包含了自回归模型固定单向生成路径所能覆盖的全部范围,理论上应该具备更强的推理能力。在数独等特定约束满足类任务中,这种特性也确实证明了自己的价值。

但问题来了——针对数学、代码这类通用推理任务,无序生成机制反而会成为推理上限的掣肘。论文发现,扩散大语言模型会利用生成顺序的自由度,刻意回避那些不确定性高、对探索关键的token,最终导致模型可覆盖的有效解范围过早收索。

基于这个发现,研究人员重新审视了面向扩散大语言模型的强化学习方案。现有的算法为了保留无序生成特性,需要处理组合式生成路径、难以计算的似然值等大量复杂问题。而他们证明,只需要舍弃任意序生成机制,采用标准的分组相对策略优化(GRPO),就能更好地激发模型的推理能力。

最终诞生的极简算法JustGRPO,结构简洁,在GSM8K数学推理数据集上准确率达89.1%,同时完整保留了扩散模型并行解码的优势。

▲约束模型自由度,可释放更强推理潜力

黄高是清华大学自动化系长聘副教授、博士生导师,也是清华大学智能产业研究院(AIR)的研究员。他的研究方向覆盖AI基础模型与算法,包括神经网络架构、高效推理算法、强化学习、多模态感知与生成、具身基座模型与世界模型等,在Nature Machine Intelligence、IEEE TPAMI等期刊和会议上发表论文200余篇,其中CCF A类论文120余篇。

▲黄高(图源:清华大学)

他的谷歌学术总引用达到10.5万次,代表性工作DenseNet单篇被引6.2万次,并入选AI2000人工智能领域最具影响力学者。

02.另一杰出论文出自MIT、耶鲁大学,提出扩散模型采样算法

与清华黄高团队并列获得杰出论文奖的,是麻省理工学院和耶鲁大学研究人员联合发表的扩散模型相关论文,题目是《扩散模型和对数凹分布的高精度采样(High-Accuracy Sampling for Diffusion Models and Log-Conca ve Distributions)》。

这篇论文提出了一套扩散模型采样算法:如果能够获取L²范数下精度为O˜(δ)的分数估计,那么该算法只需要polylog(1/δ)步就能达到δ误差。

具体复杂度分三类场景:在最简数据假设下,算法复杂度为O~(dpolylog(1/δ)),其中d为数据维度;在非一致L-Lipschitz条件下,复杂度降至O~(dLpolylog(1/δ));如果数据分布具备本征维度d⋆,复杂度可进一步简化为O~(d⋆polylog(1/δ))。

值得一提的是,该方案首次仅依靠梯度求值,就为通用对数凹分布构造出复杂度为polylog(1/δ)的采样器。

获得杰出立场论文奖的是《立场:对齐社区正在无意间打造一套审查工具集(Position:The Alignment Community is Unintentionally Building a Censor’s Toolkit)》,作者为慕尼黑大学计算机器学习方向博士生Sarah Ball和独立AI治理研究者Phil Hackemann。

核心观点很直接:现代对齐技术最初是为了规避模型生成有害内容,但这些技术属于两用技术,恶意主体可以轻松利用它们实施信息审查与舆论操控。论文梳理了现有各类对齐技术,结合技术被滥用的潜在风险与真实案例,论证了人们对“完全对齐模型”的持续追求,反而在无意间为恶意主体打造了一套性能不断升级的信息主导工具。

▲各类对齐技术的特性及其被滥用的潜在风险

考虑到AI正在快速普及、成为大众核心信息来源,再加上全球整治环境日趋威权化,技术滥用的风险进一步放大。论文呼吁整个AI领域重视安全机制被蓄意滥用的问题,并提出针对性缓释方案。

03.8位谷歌DeepMind资深研究员,获得时间检验奖

获得时间检验奖的是《深度强化学习的异步方法(Asynchronous Methods for Deep Reinforcement Learning)》。作者均为谷歌DeepMind资深研究员。ICML的评语指出,这篇论文开创性地提出了异步强化学习概念,并行Actor学习器能够稳定学习过程,启发了大量后续研究。

作者阵容中,Da vid Silver领导谷歌DeepMind的强化学习研究小组,是AlphaGo、AlphaZero的首席研究员和AlphaStar的共同负责人;Koray Ka vukcuoglu是谷歌DeepMind CTO和谷歌首席AI架构师。

论文提出的框架原理简洁、轻量,核心是采用异步梯度下降来优化深度神经网络控制器。研究人员基于四种经典强化学习算法分别设计了异步改进版本,验证了并行执行的智能体-学习器结构能够稳定训练过程,让四种算法都能有效完成神经网络控制器的训练。

其中性能最优的异步演员-评论家算法,仅依靠单核多线程CPU、无需GPU,训练耗时减半,在Atari游戏测试集上的效果超越了当时的最优基准模型。

▲5款Atari 2600游戏下,DQN算法与新型异步算法的训练速度对比

除此之外,这个异步演员-评论家算法不仅能解决各类连续运动控制任务,还能基于视觉输入完成全新的随机三维迷宫导航任务。

04.结语:清华摘顶会奖项,扩散语言模型站上风口

作为全球AI领域含金量顶尖的学术盛会,ICML这次清华团队拿下重磅奖项,直观印证了国内顶尖科研团队在机器学习核心赛道上的科研硬实力。与此同时,两篇聚焦扩散模型的论文同步获评重磅奖项,也说明扩散语言模型正在成为大模型的重要演进方向,未来或许会演变成产业界的核心技术路线。

来源:https://36kr.com/p/3883762131448068

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。