游乐游手机版
首页/科技数码/文章详情

香港科大团队突破:用随机策略训练AI,数学推理效率显著提升

时间:2025-12-06 10:57
香港科技大学潘凌教授团队联合快手科技、StepFun等机构,在AI数学推理领域取得重要突破。他们提出的ROVER训练方法颠覆了传统强化学习框架,通过简化策略优化过程,在保持高准确率的同时显著提升了模

香港科技大学潘凌教授团队与快手科技、StepFun等机构合作,在AI数学推理领域取得重要突破。他们提出的ROVER训练方法颠覆了传统强化学习框架,通过简化策略优化过程,在保持高准确率的同时显著提升了模型解题的多样性。相关研究成果已在arXiv预印本平台发布(论文编号:arXiv:2509.24981v1),为AI教育、定理证明等领域带来新的技术路径。

传统强化学习方法依赖复杂的策略迭代机制,通过奖励与惩罚的循环调整模型行为。例如PPO和GRPO算法需要模型在试错中不断优化解题策略,但这种模式存在明显缺陷:训练过程易陷入"多样性崩塌",即模型过度依赖单一解题路径,忽视其他可行方案。研究团队形象地比喻:"这就像学生长期使用固定解题模板,逐渐丧失灵活应变能力。"

研究团队通过深入分析数学推理任务的结构特征,发现了突破传统框架的关键。数学问题具有独特的树状推理结构——每步推理产生确定的新状态,不同路径互不干扰,且答案非对即错。基于这一特性,团队提出颠覆性假设:在数学推理场景中,评估随机策略的价值函数即可替代复杂的策略优化过程。实验证明,通过概率采样机制平衡最优路径探索与其他可能性,既能保证解题准确性,又能维持策略多样性。

ROVER方法的核心创新在于价值函数的表示方式。团队摒弃了额外训练价值网络的传统做法,直接利用语言模型参数计算相对价值,采用输出概率对数作为价值指标。为增强训练稳定性,研究引入组内奖励中心化技术,通过问题平均得分调整整体样本奖励,有效减少噪声干扰。这种轻量化设计使ROVER的超参数数量大幅减少,训练效率较传统方法提升30%以上。

在"倒计时"算术任务测试中,ROVER展现出惊人优势。该任务要求通过加减乘除组合多个数字达到目标值,传统方法平均仅能发现3种解法,而ROVER模型找到了17种不同路径。在更具挑战性的数学竞赛题库(涵盖AIME、HMMT等赛事真题)中,基于Qwen3-8B模型的实验显示,ROVER训练使首次尝试正确率(pass@1)提升8.2个百分点,256次尝试内正确率(pass@256)提升16.8个百分点。这些数据表明,模型不仅即时解题能力增强,探索未知路径的能力也得到根本性提升。

泛化能力测试进一步验证了ROVER的价值。在完全无关的GPQA研究生水平科学问题数据集(覆盖生物、物理、化学领域)上,ROVER训练的模型同样表现出性能提升。这证明该方法培养的不是特定领域的解题技巧,而是通用的结构化推理能力。不同规模模型(1.5B至8B参数)的对比实验显示,ROVER的改进效果具有模型无关性,为资源有限的研究团队提供了实用方案。

从理论层面,研究团队通过马尔可夫决策过程分析,严格证明了随机策略评估在确定性树状结构任务中的有效性。这种理论支撑不仅解释了实验现象,也为方法优化指明了方向。尽管论文坦承ROVER在非确定性迁移任务中的优势可能减弱,但其在数学推理领域的突破已足够引发行业关注。

这项研究带来的启示超越技术层面。在AI领域追求模型规模与复杂度的当下,研究团队通过回归问题本质实现了四两拨千斤的效果。正如论文引用的达芬奇名言:"简单是最高级的复杂",ROVER方法证明,深入理解任务特性往往比堆砌复杂机制更有效。对于教育领域而言,能提供多样化解题思路的AI助教,将比单一模式的教学工具更具实用价值。

针对技术细节的疑问,研究团队解释:ROVER通过概率采样机制平衡最优路径与其他可能性,温度参数控制着探索与利用的平衡点。消融实验表明,适当的温度设置既能保持85%以上的解题准确率,又能维持策略多样性。这种设计使得模型在测试阶段通过多数投票策略时,能获得更高的答案一致性。

来源:https://www.itbear.com.cn/html/2025-10/994725.html
上一篇中国核聚变突破:全球最大制冷功率氢制冷机成功运行 下一篇华智院联合金玛建AI机器人实验室,亮相双足机器人音乐会
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
宫本茂亲签3DS XL拍卖价破两万美元
科技数码 · 2026-05-29

宫本茂亲签3DS XL拍卖价破两万美元

今天来说一件挺有意思的事:2015年任天堂世界锦标赛冠军约翰·戈德堡,近日将他当年夺冠时赢得的宫本茂亲笔签名版3DS XL掌机放上了拍卖平台。截至2026年5月29日,这台签名掌机的竞拍价已突破两万美元,并且价格还在持续攀升。戈德堡在社交媒体上发布声明表示,经过相当长时间的慎重考虑,他决定将这台对自

七彩虹隐星P16 Pro游戏本新配置仅售7799元
科技数码 · 2026-05-29

七彩虹隐星P16 Pro游戏本新配置仅售7799元

七彩虹近期推出隐星P16Pro游戏本新配置,售价7799元。其搭载酷睿i9-13900HX处理器与RTX5060显卡,配备16英寸2 5K高刷电竞屏及高效散热系统。存储组合为16GB内存与1TB固态硬盘,支持后续扩展。该配置主打高性能性价比,适合预算有限但追求强劲性能的游戏玩家与轻度创作者。

苹果iPhone Hikawa握把支架448元重新上架
科技数码 · 2026-05-29

苹果iPhone Hikawa握把支架448元重新上架

苹果公司重新上架了与艺术家贝利·桧川及PopSockets合作设计的iPhone专用握把支架。该配件采用磁吸设计,兼具握持与支架功能,旨在通过人性化设计降低握持负担,并提供三种配色可选,售价448元。

苹果体育应用扩展至170市场 为2026世界杯引入对阵图
科技数码 · 2026-05-29

苹果体育应用扩展至170市场 为2026世界杯引入对阵图

苹果体育应用新增覆盖90多个国家和地区,全球可用市场总数超过170个。为迎接2026年世界杯,应用加入了完整的赛程对阵图和可视化阵型卡片,方便用户追踪赛事与战术。同时,应用支持实时活动功能,可将比分固定在锁屏或表盘,并新增一键跳转至新闻的入口。目前该应用仍仅限iPhone用户使用。

小米史上最强国产巅峰芯片玄戒O3 6月台积电3nm投产
科技数码 · 2026-05-29

小米史上最强国产巅峰芯片玄戒O3 6月台积电3nm投产

据博主爆料,小米下一代自研玄戒芯片计划于今年6月正式进入量产阶段,此次将采用台积电3nm工艺。初代玄戒O1累计出货量已突破100万颗,量产验证十分扎实。新一代芯片的产能将显著提升,这意味着供货问题基本得到解决。 根据现有曝光信息,这颗迭代芯片极有可能命名为玄戒O3,首发搭载机型预计为小米MIX Fo