AI智能体具备“边干边学”能力,进化速度令人惊叹
在人工智能的评估体系中,衡量模型在训练阶段掌握的“静态知识”已有一套成熟标准,但真实世界的工作往往要求AI像一名人类新员工那样,在部署后通过与环境的互动来持续学习与不断改进。字节跳动Seed团队的最新研究,系统性地揭示了这种“边干边学”能力的内在规律。他们构建了一个模拟真实工作场景的测试平台,并通过超过38000小时的智能体工作数据,发现了AI学习进程的高度可预测性:其进步轨迹精确符合某种数学形态,且学习效率正以大约每三个月翻倍的速度持续加速。
这项研究的预印本论文(编号arXiv:2607.05155v1)于2026年7月7日发布,通讯作者为钟树(zhongshu@bytedance.com),并设有项目主页edge-bench.org以供深入了解。
一、为何要研究AI“边干边学”的能力?
大多数人认为,AI的进步源自海量数据和强大算力的大规模训练。然而,这种模式与人或AI在真实世界中的工作方式截然不同。一名刚入职的新员工,不可能在上班前就掌握公司所有的内部规章制度、私有代码库和客户档案,他必须在实际工作中边做边学。
AI模型同样面临这一困境。训练数据存在三大局限:
- 信息缺失:许多关键信息,如公司的内部代码库或私有文档,根本不存在于公开数据中。
- 过程缺失:即便原始数据存在,也缺少人类专家在获得这些知识过程中反复试错、根据反馈调整的“中间过程”。
- 动态变化:世界不断变化,新的工具和问题层出不穷,固定的训练数据无法覆盖。
因此,一个AI系统在被部署到真实工作场景后,主动从环境中获取信息并改进自身的能力,成为衡量其实际价值的核心指标。而在这项研究之前,学界对这种“环境学习”是否遵循可预测的规律,几乎一无所知。
二、EdgeBench:一座容纳134个真实挑战的考场
为了测量AI的“边干边学”能力,研究团队构建了名为EdgeBench的测试平台。其设计理念是“尽量贴近真实工作”。
团队与各领域专家合作,从六大能力方向精心挑选了134个任务:
- 科学研究与机器学习
- 系统软件工程
- 组合优化
- 专业知识工作
- 形式数学与定理证明
- 互动游戏与模拟器
这些任务并非简化版练习题,而是真实世界中需要耗费大量精力的工作。例如:用Lean 4语言形式化证明费马大定理的正则情形、重新实现FFmpeg的像素格式转换库、用物理模型重建引力波信号。每个任务都被设计成至少需要AI持续工作12小时才能充分探索。相比之下,人类专家完成这些任务的平均时间是57.2小时,最长的一个甚至需要320小时。
EdgeBench特别排除了主要考察“视觉理解”能力的任务,以便纯粹测量模型“从反馈中学习并改进”的能力。
三、双重反馈回路:快速探索与权威评判
EdgeBench的评测机制模拟了人类工程师的两种反馈循环:
- 快速本地反馈:AI在一个隔离的“工作容器”中,可以使用本地验证工具(如编译器、本地测试集)进行快速迭代。这个过程很快,可反复进行。
- 权威外部反馈:当AI准备好后,可将成果提交给独立的“评测容器”(含有隐藏测试案例),获得分数和诊断性反馈。提交后有冷却时间限制,防止无序刷分。
这种设计让AI既能快速探索,又能获得真实、客观的能力校准。同时,AI在提交后可以继续工作,无需等待评测结果,这与真实的异步工作流程一致。
四、那条几乎完美的S形学习曲线
研究团队评测了五款前沿模型:Anthropic的Claude Opus 4.8、OpenAI的GPT-5.5和GPT-5.4、智谱的GLM-5.1,以及DeepSeek-V4-Pro预览版。每个模型在每个任务上独立运行三次12小时。
观察单个任务的学习曲线,通常是凹凸不平的。但当研究团队将全部134个任务的性能曲线取平均后,奇迹发生了:一条极其光滑、形态优雅的S形曲线浮现出来。这条曲线可以被一个仅有三个参数的数学公式精确描述:
S(t) = Smax / (1 + (tmid/t)^β)
在这个公式里:
- Smax:模型理论上能达到的最高分数上限。
- tmid:达到一半最高分所需的时间,tmid越小,模型越快进入快速进步期。
- β:控制曲线在对数时间轴上的陡峭程度。β越大,进步越集中;越小,则进步分布更均匀。
这个公式的拟合精度极高,五个模型的平均R²值达到了0.998,这在实验科学中几乎是最高值。这个规律不仅在全部任务上成立,还分别对六大类任务进行拟合,最低R²也达到0.972。
五、能预测未来的曲线
只使用前6.5小时的数据拟合公式,然后用得出的参数预测接下来6.5到12小时的性能走势。结果显示,五个模型的预测准确度相当高:预测段均方根误差(RMSE)全部低于1个百分点。这意味着,只要观察一个模型学习任务的前一半时间,就能相当准确地预测出它后半段的表现。
六、S形曲线从哪里来:任务图理论的解释
研究团队没有止步于描述现象,还提出了一套基于任务图论的理论解释。核心思想是将一个复杂任务视为一张由“得分节点”组成的地图。每个节点代表一项子能力或成就,节点间的边表示能力间的依赖关系(解锁A有助于解锁B)。
AI学习的过程,就是不断解锁前沿节点的过程。已解锁的区域越大,对前沿的“推进力”越强;但随着剩余锁定区域缩小,可解锁空间变得有限。这两种力量叠加,自然产生“先慢后快再慢”的S形进步。当多个独立任务的学习曲线被平均后,其形态正是光滑的S形。
七、为什么是S形?与其他形状的对比
为了证明S形曲线比其他形状更合适,研究团队系统地比较了五种增长模型:
- 对数S形(Logistic):均方根误差最低,为0.390。
- 对数正态分布(Log-Probit):0.398
- 对数Gompertz分布:0.402
- Weibull累积分布:0.404
- 简单对数线性模型:0.717,效果最差。
结果显示,对数S形曲线的拟合精度最优,其背后的机制(已解锁进度×剩余空间)也解释了前文提到的任务图理论。
八、学习速度:每三个月翻倍
研究团队还关心,随着时间推移,前沿模型的学习速度是否在加快?他们从EdgeBench中挑选了一个特殊的18个任务子集,这些任务的特点是所有模型的起跑线基本一致(初试平均分约6.87),因此后续差异主要来自学习效率。
从2025年9月发布的GPT-5-Codex到2026年4月发布的GPT-5.5,学习速度在221天内增长了约8倍。用指数增长拟合后,对应的倍增周期约为三个月。有意思的是,这种加速主要源于模型每次提交的“有效性”提升,而非单纯提高提交频率。
九、连续学习 vs. 反复重来
为了排除“AI成绩提升只是靠多次尝试”的可能性,研究团队设计了一个实验。让Claude Opus 4.8在17个任务上,以两种方式使用相同的12小时总预算:
- 有积累地连续工作:持续运作,保留所有历史。
- 无积累的独立重试:将12小时分为6份,每次从零开始,取最好成绩。
结果,连续学习的方式获得了43.0分,而重复重试只获得36.1分。这个差距证明了AI确实从历史经验中获得了实质性收益。
十、更长的上下文窗口,更强的学习能力
为了验证“记忆容量”对学习能力的影响,研究团队对比了Claude Opus 4.8在200K词元与100万词元两种上下文长度下的表现。结果显示,拥有更长上下文窗口的AI(1M版本)在所有时间节点上都稳定领先。这说明,即便有外部文件存储等辅助工具,模型自身的上下文容量仍是不可替代的因素。
十一、一个具体案例:引力波信号重建
研究团队对一个具体的“引力波信号重建”任务进行了细致分析。一个GPT-5.5智能体在这个任务上工作了12小时,提交了224次,其中仅27次真正提升了最佳分数(约88%的提交无效,这符合真实科研常态)。
研究团队识别出七个关键里程碑,展示了“信息解锁信息”的机制:从初始构建流程,改进频率估计方法,到识别“源动力学”为薄弱环节并集中攻克,最终以67.0分收尾。这个案例完美展示了AI如何通过每次有意义的提交获得的反馈,来调整搜索方向。
十二、数学定理证明:一项“硬骨头”任务
在六大类任务中,“形式数学与定理证明”类任务的模型表现差异最为悬殊。例如,Claude Opus 4.8的12小时平均得分为55.0,而DeepSeek-V4-Pro仅为14.1。这类任务采用严格机器校验,无中间地带,且存在传递依赖(引理A未证明则证明B不成立)。
这些数据说明,评估AI能力不能简单论“好”或“坏”,而应结合具体任务类型和时间预算,分析其在特定场景下的学习效率。
十三、S形规律的边界
研究团队对规律保持了谨慎,指出了其可能失效的情况:
- 当任务图存在强依赖的“瓶颈”节点时,可能出现长时间停滞与断崖式跃升。
- 当各任务的“半程时间点”分布极为分散时,平均S形曲线会变形。
- 当任务受固定时间节奏(如每日数据更新)影响时,对数时间轴假设失效。
此外,公式中的Smax应被理解为“当前时间窗口和评测条件下的可达上限”,而非绝对天花板。
总结与展望
字节跳动Seed团队的这项研究首次系统性地证明了,AI智能体在真实环境中“边干边学”的能力是有规律可循的。那条R²高达0.998的S形曲线,以及学习速度每三个月翻倍的趋势,为AI在复杂工作中的大规模部署提供了量化基础。
一个值得思考的问题是:当AI从环境中学习的速度已经可以被精确预测和量化时,我们应该如何规划AI与人类协作的工作方式?这条可预测的学习曲线,意味着我们可以提前估算“给AI多少时间,能期望它达到什么水平”。这种可预测性,正是大规模部署AI完成复杂工作的前提。研究团队已公开发布EdgeBench中的51个任务和评测框架,供后续研究者使用。
常见问题(Q&A)
- Q1:EdgeBench测试平台评测的是AI的什么能力?
- A:EdgeBench评测的不是AI的固有知识,而是它在真实任务环境中,通过与环境交互、获取反馈来持续改进自身的能力,即“边干边学”的能力。平台设计了双重反馈机制来模拟真实工作。
- Q2:对数S形学习曲线的三个参数分别代表什么?
- A:公式S(t) = Smax / (1 + (tmid/t)^β)中,Smax是理论成绩上限,tmid是达到一半上限所需的时间(越小越快进步),β是陡峭程度(值越大进步越集中)。
- Q3:AI学习速度每三个月翻倍的结论是怎么得出的?
- A:研究团队从EdgeBench中选取了18个任务(所有模型初试得分相近,约6.87分),测量了从2025年9月到2026年4月间发布的多款模型在2小时内的得分提升幅度。从GPT-5-Codex到GPT-5.5,这个提升幅度增长了约8倍,对应的倍增周期约为三个月。
