游乐游手机版
首页/科技数码/文章详情

伯克利新突破:AI推理加速告别漫长等待

时间:2026-05-18 07:23
看到“已思考(用时 XXX 秒)……”这行提示,等待的焦躁感是不是立刻就上来了?这其实反映了一个有趣的现象:如今的AI模型越来越强大,能处理的任务也越来越复杂,但面对那些需要多步推理或横跨多个应用的复杂指令时,它们的响应速度有时反而更慢了。 (图源:deepseek) 针对这个普遍的“转圈圈”问题,

看到“已思考(用时 XXX 秒)……”这行提示,等待的焦躁感是不是立刻就上来了?这其实反映了一个有趣的现象:如今的AI模型越来越强大,能处理的任务也越来越复杂,但面对那些需要多步推理或横跨多个应用的复杂指令时,它们的响应速度有时反而更慢了。

(图源:deepseek)

针对这个普遍的“转圈圈”问题,伯克利人工智能研究实验室(BAIR)最近提出了一种新思路——自适应并行推理(Adaptive Parallel Reasoning,简称APR)。这或许能为AI的“慢性子”开出一剂新药方。

AI推理为什么要“转圈圈”?

在深入探讨APR之前,得先弄明白为什么现在的AI容易在复杂任务上“卡壳”。

目前,主流模型普遍采用“顺序推理”模式。简单来说,当接到一个复杂任务时,AI会先把任务像拆解乐高一样,分割成一系列逻辑相连的小步骤,然后严格按照顺序,一步接一步地推导,最后再对结果进行验证。

左为顺序推理(SR),右为并行推理(APR) | 图片来源:BAIR

这种方式的优点很明显:推理过程清晰,准确性也相对有保障。比如,之前有媒体尝试用ChatGPT创作原创漫画时,打开推理窗口就能看到AI一步步构思故事、撰写对白、规划画面的完整链条。

图片来源:雷科技

但问题不止于此。为了确保结果的可靠性,许多模型还会采用“推理时拓展”策略。说白了,就是AI得出一个答案后,不放心,会自己再验算几遍。只有多次推理结果一致,它才敢把最终答案交出来。

可想而知,“验算”次数一多,总的推理时间就被拉长了,用户自然就得等更久。

当然,顺序推理并非一无是处。对于极其复杂的任务,这种步步为营的方式保证了推理过程的可追溯性。一旦结果有误,开发者可以顺着推理链条回溯,相对容易地定位到出错的环节。

效率的代价

那么,“顺序推理+反复验算”这套组合拳的代价是什么呢?

最直接的代价就是时间。用户等待响应的时间被显著拉长。同时,这种将任务拆细再逐步推导的方式,会消耗大量的计算资源(Token)。更棘手的是,冗长的推理链很容易超出模型单次处理的文本窗口限制,导致上下文信息丢失,反而影响最终质量。

本意是提升准确性的设计,在某些场景下反而成了拖累效率的瓶颈。

为了解决“推理排队”的问题,行业里早就提出了“并行推理”的概念。其核心思想同样是拆分任务,但允许多个子任务同时进行处理。过去两年,不少研究都聚焦于如何验证并行推理的结果。

然而,传统的并行推理通常依赖外部模型来拆分任务,AI模型自身无法判断一个任务该被拆得多细。这就导致简单任务可能被过度拆解,浪费资源;而复杂任务若拆解得不够彻底,又可能算不出正确结果。

让AI自己决定如何“分兵”

如果让AI模型自己来判断任务的复杂度,并决定如何拆分呢?这正是自适应并行推理(APR)要做的。

顾名思义,APR与传统并行推理最大的不同在于“自适应”。模型可以根据任务的实际情况,动态地在顺序推理和并行推理之间切换。

面对简单的计算或查询类任务,比如“105能否被7整除”或“明天天气如何”,采用APR的模型会直接使用高效的顺序推理模式,可能连“验算”环节都省了,自然也就无需拆分任务。

左为顺序推理(SR),右为自适应并行推理(APR) | 图片来源:BAIR

但当遇到复杂的数学证明,或者明显具有多步骤、强上下文依赖的逻辑请求时,情况就不同了。例如,“导入并分析2026年F1中国站排位赛汉密尔顿在T14弯的尾速数据,并与2025年同期数据对比,最后进行可视化输出”。

处理这类任务时,APR模型会在不超出上下文窗口的前提下,将整个任务智能地拆分成多个相对独立的子任务。对于那些没有先后依赖关系的子任务,模型会尝试“并行处理”,即同时推进,从而压缩整个任务的完成时间。

其次,传统并行推理中,多个AI线程可能会重复处理相同的子任务,这本质上是一种资源浪费。而APR模型在任务拆分阶段就做好了分工规划,进一步减少了冗余计算。

两种不同推理模式示意图 | 图片来源:BAIR

更有趣的是,由于APR将长任务链拆解成了彼此独立的短任务,它巧妙地规避了超长文本处理中常见的“幻觉”问题。这道理其实很简单:让6个人分别做4小时题,其结果的总体正确率,很可能比让一个人连续高强度思考24小时要高。

以机器的方式思考:机遇与挑战

话又说回来,尽管自适应并行推理为AI效率提升提供了新路径,但它也伴随着自身的挑战。

并行推理训练框架Parallel-R1的作者就指出,APR模式的训练存在“模型回滚”现象。这有点像人类的惰性——只要移除针对APR模式的特定“奖励”机制,AI模型很容易就会退回它更熟悉的顺序推理“舒适区”。

此外,让模型自行评估任务复杂性并拆解任务,也可能带来风险。模型有可能错误判断子任务的主次,在细枝末节上过度纠结,反而忽略了核心难题。对于本身具有一定“概率性”和“随机性”的AI模型而言,在推理链中引入更多自主判断的环节,难免会增加结果的不确定性。

可以肯定,作为一项新兴技术,自适应并行推理还需要大量的研究和实践去打磨和完善。

图片来源:Claude

但从应用趋势来看,它的出现恰逢其时。在AI智能体(Agent)时代,过去那种单纯闲聊的场景已大幅减少。无论是Claude接入微软365套件,还是OpenAI发布能原生操作电脑的ChatGPT新版本,都指向同一个未来:跨应用、执行长链条复杂任务,将成为AI的核心竞争力。

而长任务链“环环相扣”的特性,会成倍放大AI推理效率的短板。就像老师常说的“一人耽误一分钟,全班耽误半小时”,在AI任务链中,一个环节的延迟会传导至整个流程。因此,尽管APR方案目前尚不成熟,但其“降本增效”的潜力显而易见,预计会有越来越多的AI服务尝试拥抱这种新模式。

从更宏观的视角看,这种从“顺序思考”到“自适应并行思考”的转变,或许标志着AI大模型发展路径的一次重要转向:从“模拟人类思维”转向“发挥机器特长”。

线性的、顺序的推理方式,本质上是让机器模仿人类的思考模式。这固然让AI的推理过程显得严谨、有逻辑。但硅基芯片的底层架构天生擅长并行计算。强迫AI像人一样“一步一步想”,某种程度上是一种能力浪费。让AI以更适合自身硬件特性的“并行”方式思考,才算真正进入了属于它的“机械时代”。

可以预见,当这种“非线性”的思维方式成为主流,AI与人的交互模式也可能发生改变。当前,AI为了展示其思考过程,往往将推理步骤呈现出来,始终离不开“文本窗口”的局限。而在“并行”计算时代,后台的推理可能完全“黑盒”化——系统在幕后全力运转,前台则直接给出最终结果。

到那时,AI或许不再需要向用户证明“自己在思考”;而“已思考XXX秒”这类略显尴尬的提示,也将彻底成为历史。

来源:https://www.163.com/dy/article/KSJ4QJQM051100B9.html
上一篇小米SU7入门版发布 73kWh电池续航超630公里轻量化设计 下一篇元知明启发布AI安全大模型评测平台
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
云米科技CEO奖励员工小米YU7 期待未来再奖励更多台
科技数码 · 2026-07-08

云米科技CEO奖励员工小米YU7 期待未来再奖励更多台

云米科技创始人兼CEO陈小平通过社交平台正式揭晓了公司年会上的“重磅大奖”:一辆小米YU7汽车,专为表彰一位长期服务核心客户、始终坚守岗位并成功推动项目实现关键突破的员工。获奖理由简洁而有力——“尽职尽责、持之以恒”。陈小平在现场还定下目标:“希望到2026年,能送出更多台车。” 这句话,既是对员工

腾讯开源Node模块联邦方案hel-micro-node
科技数码 · 2026-07-08

腾讯开源Node模块联邦方案hel-micro-node

腾讯近日正式发布开源项目 hel-micro-node,作为 hel+ 生态体系中的核心组件,专门为 Node js 运行环境量身打造,旨在提供一种轻量化、高效率且易于使用的服务端模块联邦解决方案。与同类产品 @module-federation node 相比,hel-micro-node 在功能

doc个人图书馆因业务调整无偿转让寻找接管方
科技数码 · 2026-07-08

doc个人图书馆因业务调整无偿转让寻找接管方

日前,知识分享平台“360doc个人图书馆”正式对外发布官方公告。自2005年上线以来,这一经典数字图书馆已稳健运营整整二十年,累计服务用户超过八千万,沉淀文章数量突破十一亿篇。作为国内知名的免费知识管理公益平台,它不仅承载了无数人的智慧积累与珍贵记忆,更在个人知识存档与内容管理领域保持了独特的品牌

iPhone Air 2最新传闻 散热与双扬声器及双摄成重点
科技数码 · 2026-07-08

iPhone Air 2最新传闻 散热与双扬声器及双摄成重点

细想起来,距离苹果那款备受期待的超薄系列新机——我们暂时称之为iPhone Air 2——正式亮相,其实已经不到一年了。产业链上陆续传出的消息都在暗示,苹果这次决心放一个大招,在散热、音频、影像这几个核心体验上动真格的。 iPhone Air 销量与市场反响 此前不少舆论认为初代iPhone Air

上海交大今日正式发布自研光学垂直大模型
科技数码 · 2026-07-08

上海交大今日正式发布自研光学垂直大模型

光学领域最近迎来了一位重量级新成员——上海交通大学正式推出了面向光学垂直方向的大模型Optics GPT。官方将其定义为一位“数字光学顾问”,听起来可能有点抽象,但说白了,就是让一个AI系统把光学领域的所有核心知识吃透,然后能稳稳当当地帮科研、工程和教学解决问题。 如果拿ChatGPT这类通用大模型