首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
蚂蚁集团与清华开源AReaL:AI推理训练速度提升2.77倍

蚂蚁集团与清华开源AReaL:AI推理训练速度提升2.77倍

热心网友
80
转载
2026-03-04

3月4日,IT之家报道称蚂蚁集团与清华大学联合推出开源强化学习训练框架AReaL v1.0稳定版。这一大规模异步强化学习系统通过解耦生成与训练流程,显著提升大语言模型(特别是推理模型)的训练效率。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

据IT之家引述的论文介绍,随着大语言模型向"大推理模型"(LRM)演进,强化学习已成为提升模型逻辑推理能力的关键技术。

然而,现有的强化学习训练系统主要采用同步机制,即生成阶段必须等待批次中所有输出(通常是最长的那个)完成后才能开始训练。


这种"木桶效应"导致大量GPU算力处于闲置状态,制约了训练效率,在处理需要生成数万个思考标记的复杂推理任务时表现尤为明显。

研究团队为解决这一瓶颈,开发了AReaL系统,这是一个完全异步的强化学习训练架构。AReaL彻底解耦了模型的生成与训练过程:生成工作器可以连续不断地产生新数据,而训练工作器则在收集到足够数据后立即更新模型。


这种流水线式的并行设计消除了同步等待时间,显著提升了硬件资源的利用率,让整个训练过程更加流畅高效。


在算法层面,AReaL面临异步带来的数据"陈旧度"挑战,即训练数据可能来自旧版本的模型。为此,团队设计了陈旧度感知训练机制,通过控制工作负载来平衡数据的新鲜度。

同时,研究团队提出了解耦PPO目标函数,并支持"可中断生成"技术,允许模型在生成过程中无缝更新权重。


实验结果验证了AReaL的卓越性能。在数学和代码推理基准测试中,使用相同数量的GPU,AReaL相比最先进的同步系统,训练速度最高提升2.77倍。更令人惊喜的是,这种加速并未以牺牲准确率为代价,模型的解题能力在部分任务上甚至有所提升。



IT之家附上参考资料

来源:https://www.163.com/dy/article/KN648M8P0511B8LM.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

B站推荐算法升级:不再“猜你喜欢”是好是坏?
科技数码
B站推荐算法升级:不再“猜你喜欢”是好是坏?

3月31日下午,哔哩哔哩弹幕网(B站)发文表示:从明天(4月1日)零点起,B站将下线猜你喜欢算法,不再根据你的喜好来推荐主页内容,并上线推荐新算法。3月5日晚间,B站公布了截至2025年财报。数据显

热心网友
03.31
B站明日起下线“猜你喜欢”算法,用户推荐机制变更
科技数码
B站明日起下线“猜你喜欢”算法,用户推荐机制变更

快科技3月31日消息,B站最新今日发布公告,4月1日0时起正式下线 "猜你喜欢 "推荐算法,不再根据你的喜好来推荐主页内容,并上线推荐新算法。B站称,欢迎大家明天来查看你的新主页。不过,很多网友都认为这

热心网友
03.31
AI时代,未来将是谁为谁打工?
科技数码
AI时代,未来将是谁为谁打工?

来源:北京日报AI风口,人人皆有所感。且看市面各类产品,主打交互的,谈天说地仿若知心好友;擅长功能的,写文画图生成视频样样堪称好手。“养龙虾”热了,老老少少排队装机,生怕错过头啖汤。都说人工智能是一

热心网友
03.31
硅谷AI创业无中文基础指南:核心策略与关键资源解析
科技数码
硅谷AI创业无中文基础指南:核心策略与关键资源解析

文 | 针探STI,作者 | 岳轻2026年的春天,对于大洋彼岸的硅谷来说,冷意下浮动着暗流。过去几周,几则看似孤立、实则暗流涌动的边角料新闻,正在悄然改变着全世界对“AI霸权”的陈旧认知。首先是2

热心网友
03.31
香港科技大学团队突破实时视频生成关键技术
科技数码
香港科技大学团队突破实时视频生成关键技术

这项由香港科技大学、京东探索研究院和香港大学联合开展的研究发表于2026年3月,论文编号为arXiv:2603 17051v1。有兴趣深入了解的读者可以通过该编号在学术数据库中查询完整论文。制作一段

热心网友
03.31

最新APP

你说我猜
你说我猜
休闲益智 03-31
史莱姆农场
史莱姆农场
休闲益智 03-31
凡人传说
凡人传说
角色扮演 03-30
恶魔秘境
恶魔秘境
角色扮演 03-29
猫和老鼠华为
猫和老鼠华为
休闲益智 03-29

热门推荐

崩坏星穹铁道3.4新增四星光锥怎么玩-崩坏星穹铁道3.4新增四星光锥玩法解析
游戏资讯
崩坏星穹铁道3.4新增四星光锥怎么玩-崩坏星穹铁道3.4新增四星光锥玩法解析

角色与光锥适配深度解析 为队伍挑选合适的光锥,往往能起到画龙点睛的作用。今天,我们就来深入聊聊几款功能各异的光锥,看看它们如何与特定命途的角色产生化学反应。 酣战如始 1 属性与适配角色:作为同谐命途的光锥,其核心属性集中在速度与能量恢复上。这无疑是那些专注于辅助队友、提供团队增益角色的优质选择。

热心网友
03.31
什么是加密货币对冲?如何操作?有什么优势?
web3.0
什么是加密货币对冲?如何操作?有什么优势?

什么是对冲? 加密货币市场的价格变化,向来以快速剧烈著称。上午还在上涨的资产,下午就可能面临回调。在这种高波动的环境下,交易者们自然会寻求一种方法来保护自己的资金免受冲击。这种方法就是对冲——一种旨在降低风险、提升投资组合稳定性的核心策略。简单来说,对冲的核心逻辑在于:当你持有的主要加密货币资产价值

热心网友
03.31
荣耀平板 PC 化升级计划公布,将带来 PC 交互、PC 级应用支持等特性
科技数码
荣耀平板 PC 化升级计划公布,将带来 PC 交互、PC 级应用支持等特性

荣耀平板PC化升级计划公布,将带来PC交互、PC级应用支持等特性 三月十号,荣耀的一场重磅发布会,揭开了其平板产品线战略升级的序幕。在荣耀Magic V6旗舰新品发布会后,荣耀终端股份有限公司全场景产品线的负责人,@荣耀潇哥,进一步分享了一项备受关注的“平板PC化升级计划”。 在分享中,@荣耀潇哥清

热心网友
03.31
5 分钟充好,9 分钟充饱,比亚迪闪充补上新能源转型最后一块拼图
业界动态
5 分钟充好,9 分钟充饱,比亚迪闪充补上新能源转型最后一块拼图

5 分钟充好,9 分钟充饱,比亚迪闪充补上新能源转型最后一块拼图 “没有人比我们比亚迪更懂电池。”这句在发布会上掷地有声的口号,背后是实打实的技术突破。前不久的比亚迪“闪充中国改变世界”发布会上,王传福总裁正式揭晓了第二代刀片电池与配套的闪充技术,一组数据瞬间引爆了行业: 从10%到70%电量,只需

热心网友
03.31
OPPO K15 Pro核心配置公布:明日发布,抢先了解亮点
网络安全
OPPO K15 Pro核心配置公布:明日发布,抢先了解亮点

IT之家 3 月 31 日消息,OPPO K15 Pro 系列手机已官宣将于明日 14:30 正式发布。IT之家注意到,OPPO K15 Pro 手机已现身正式,并公布了核心配置信息,IT之家附如下

热心网友
03.31