AI Agent的能力正在以惊人的速度增长——每7个月翻一番。这个趋势指向一个可能的未来：软件智能大爆炸。听起来像是科幻小说的情节，但数据和研究正在把它拉进现实。
核心看点有三个：第一，AI Agent能完成的任务长度，正以指数级增长，差不多每7个月就翻一倍；第二，按照这个节奏，到2029年Agent有望独立完成一个工作月时长的任务；第三，AI scaling law的最终形态，可能是Agent自己开发Agent，到那时，软件智能爆炸时代就不再是概念了。
有趣的是，Agent领域不仅存在scaling law，而且它还在加速。
回想一下，2022年ChatGPT刚出来的时候，它能独立完成的代码任务，大概相当于人类花30秒就能搞定的事情。而现在呢？AI Agent已经能自主搞定需要人类投入一小时的coding任务了。“任务长度”这个指标，相当直观地反映了Agent能力的跃迁。
AI独立研究机构METR分析了大量数据后发现，Agent能完成的任务长度正呈指数级增长，大约每7个月翻一番。按照这个节奏，预计到2029年，Agent就能完成一个工作月（约167小时）的任务了。
更值得注意的一点是，最近这个趋势还在加速——2024到2025年间，Agent能完成的任务长度大约每4个月就翻一倍。如果这个更快的节奏能持续下去，那Agent可能在2027年就能搞定长达一个月的任务。
本文基于METR、Forethought和AI Digest的研究，系统梳理了agent scaling law的发现、原因和终局猜想。AI研究人员普遍认为，scaling law的终局是AI agent自主开发AI agent，到那时，我们将进入软件智能爆炸时代（Software Intelligence Explosion，SIE）。
在基础模型竞赛阶段，“新摩尔定律”——即模型能力进步与算力成本下降的对应关系——是关键坐标系。而随着2025年Agent逐步落地，摩尔定律进入3.0版本，AI agent的scaling law也将为我们部署agent投资和产品提供重要的参考指引。
01. 如何科学衡量Agent的能力
AI能力在快速提升，这谁都知道，但关键问题是：这种提升和它对现实世界的影响之间，到底有多大关联？
在很多定量测试（比如考试类题目）上，AI已经比人类专家还要强了，而且成本极低。经过专门的微调后，AI甚至能帮人类处理不少具体任务。但尴尬的是，就算是最强的AI Agent，目前也无法独立完成一个有实质意义的项目，更别提直接替代人类劳动力了——连靠谱地进行基础电脑操作都还做不到。
问题的关键不在于Agent缺乏解决单步任务的技能或知识，而在于多步骤任务中，它们要把一连串的动作串联起来时就会遇到麻烦。基于这个洞察，METR的研究人员选择了一个很聪明的衡量指标：以人类专业人士完成某个任务所需的时间，定义为“任务长度”，用这个来衡量Agent在现实世界中的能力。
直观上说，2022年ChatGPT推出时，它能完成耗时30秒的coding任务；而今天，AI Agent已经能自主完成需要人类花一个小时的coding任务了。
02. AI Agent能力每7个月翻倍
METR选取了2019年至2025年间最强大的AI Agent，在大约200个任务上做了测试。这些任务以coding类为主，还有一部分通用推理任务，任务长度从30秒以内到超过8小时不等。然后他们把Agent的任务成功率与每个任务的长度做了对比，发现了两个关键结论：
- 任务长度与Agent成功率高度相关（R² = 0.83）；
- Agent在成功率为50%的情况下，能完成的任务长度呈指数级增长。
任务长度与成功率高度相关
在一组多步骤任务中，METR发现：当任务耗时少于4分钟时，模型成功率接近100%；但当任务耗时超过4小时时，成功率骤降到10%以下。
基于这个发现，可以用“模型能够以x%概率成功完成的任务长度”来描述模型能力，并拟合出一条曲线。反过来，也可以确定一个成功概率后，预测Agent能完成的任务长度。
人类完成任务所需时间与模型任务完成成功率的关系图
模型能够以50%概率成功完成的任务长度示意图。例如，Claude 3.7 Sonnet（图中最右侧、最深绿色的模型）以50%概率成功完成的任务长度约为一小时——拟合曲线在这一时间点与50%成功概率的阈值相交。
这个发现也很好地解释了前面提到的现象：模型能在很多benchmark测试上超越人类，但到了日常工作自动化的场景中，又常常掉链子。原因就在于，即便是今天最先进的模型，能稳定解决的“任务长度”还停留在几分钟以内的水平——虽然它们偶尔也能搞定一些专业人士也得花数小时的难题，但质量不稳定。
AI Agent能执行的任务长度每7个月翻倍
过去6年里，以50%成功概率为标准，头部模型能完成的任务长度显著增加。在对数坐标系里画出来，这个趋势与指数趋势高度吻合——大约每7个月翻一倍。
当然，具体翻倍速度取决于研究人员的计算方式，比如任务类型、衡量人类水平的标准等。但整体趋势是靠谱的：大约每年有1到4次翻倍。如果未来2到4年这个趋势能保持，Agent将能完成各种为期一周的任务。
而且这个趋势非常陡峭——意味着即使测量有较大误差，或者模型与人类对比时存在偏差，也不影响对趋势的预测。极端情况下，即使绝对测量值存在10倍的偏差，对时间预测的影响也仅仅只有2年。
不过需要注意模型显著误差的可能性。比如说，用2024年之前的数据预测未来，和用2024年之后的数据预测，结果差异不小。如果只拟合2024年和2025年的数据，在Agent可靠性保持50%不变的前提下，实现一个月任务长度目标的时间会缩短约2.5年。
Agent能完成的任务长度呈指数级增长，这个趋势相当稳固，而且目前没有出现要平稳的迹象。按照这个趋势推测：
- 2026年：Agent能完成时长2小时的任务
- 2027年：能完成1个工作日（8小时）的任务
- 2028年：能完成1个工作周（40小时）的任务
- 2029年：能完成1个工作月（167小时）的任务
03. Agent Scaling Law还在加速
如上所述，AI Agent能力不仅存在7个月翻倍的规律，而且翻倍的时间还在缩短——这个趋势甚至还在加速。背后的原因很简单：底层模型能力在不断进步。
METR的测算显示，2024-2025年间，Agent能完成的任务长度每4个月翻一倍，而2019-2025年整体是每7个月翻一倍。如果4个月翻倍这个节奏能持续，那到2027年Agent就能完成一个月的任务。
而且，这个速度还有可能进一步加快——目前可能正处在比指数增长更快的轨迹上。直观上也说得通：Agent完成1周和2周任务的技能差距，可能比完成1年和2年任务时的差距更大。
更关键的是，随着AI能力提升，AI在开发更强大AI上的作用也会越来越大——这可能导致Agent能完成的任务长度呈现超指数级增长。越来越强的AI系统可能会触发加速飞轮：Agent加速创造更强大的Agent，而这些更强的Agent又反过来加速创造更强大的Agent。
如果这个飞轮转起来，Agent的能力可能会迅速飙升，超越任何人类在AI研究领域的能力，甚至延展到其他所有领域。这种影响将是革命性的——Agent能完成的任务长度的增加，最终可能成为人类历史上最重要的趋势之一。
04. 为什么会出现Agent Scaling Law
独立AI研究机构Forethought围绕AI R&D话题做了一系列研究，可以解释Agent scaling law出现的原因。结论是：AI能实现这么快的进步，动力来自LLM硬件和软件的突破。
硬件：更多算力和更多数据
即便算法和数据不变，单靠扩大算力规模就能提升模型能力。举个例子，GPT-3本质上就是GPT-2的扩展版本，但由于算力大幅提升，GPT-3能进行连贯对话、编写可运行代码、翻译和创作诗歌，而GPT-2大部分时候只是语无伦次地胡说八道。
而且，前沿AI系统算力的提升，不仅能改进已有任务的表现，还可能带来新能力的涌现。增加算力有两种方式：1）花更多钱买更强的计算资源；2）开发更高效的硬件，让相同成本下获得更强的算力。
软件：开发更好的AI模型
“AI软件”包括几乎除算力硬件外的所有东西——技术范式、系统架构、训练算法、数据获取、参数调整、微调方法等等。
AI软件进步可以进一步分成两类：1）效率改进——新系统执行与之前大致相同的任务时，计算成本更低；2）能力改进——新系统能完成之前完全做不到的任务，或者在相同任务上表现更出色。
实践中，效率改进和能力改进之间的界限有时比较模糊。比如更高的训练效率可以训练出更大的模型，而更大的模型往往表现出新能力或更好的性能。
AI软件进步很难衡量，尤其是能力改进。比如ChatGPT通过GPT-3.5实现更具信息性的对话，再集成到直观界面里，这怎么量化进步？相比之下，效率改进更容易衡量——比如比较AI系统达到特定性能水平所需的算力。
下图显示，LLM的训练效率估计值（约8个月翻倍）相对保守，因为没有考虑训练后的改进；运行效率估计值（约4个月翻倍）则显得激进，因为包含了软件之外的因素。
如果取这两个估计值的均值，训练效率和运行效率都有约6个月翻倍一次的水平。
不同分析方式下，AI效率翻倍所需时间
AI能力的进步 > 算力成本下降
除了效率提升，AI能力提升也相当显著，甚至可能比效率提升更重要。最近AI系统的新能力在提升系统实用性方面，远远超过了已有能力的效率提升。过去10年AI经济重要性的增加，主要源于AI新能力的出现，而不是已有能力在算力上变得更便宜。
比如LLM的能力提升——RLHF使得对LLM进行“微调”成为可能，让它可以扮演特定角色，而不仅仅是模仿互联网文本。此外，训练效率提升也可以转化为能力提升——通过scaling让新能力涌现。
LLM公司通常同时做两件事：一是创建与之前系统性能相当但更快更便宜的LLM，二是创建计算成本相同（或更高）但能力更强的系统。开发者通常对后者更兴奋，倾向于整合最强的模型；但如果效率提升是主要推动力，前者会引发更多行业关注。
05. 终局猜想：Agent 开发 Agent
前面提到，当AI Agent能力足够强时，很可能出现“Agent开发Agent”的现象。Forethought把这个现象定义为ASARA（AI Systems for AI R&D Automation），即一个AI系统能够完全自动化AI研发中涉及的所有任务。
值得注意：训练新AI系统所需的算力，通常远大于运行已训练系统副本所需的算力。这意味着，如果用于训练ASARA的算力被重新分配用于运行，可以并行运行数十万甚至数百万份副本。如果每个副本都能匹配顶尖人类研究者的表现，那ASARA的认知总输出很可能相当于数百万名顶尖人类研究者。
目前全球大约有数十万名研究人员从事AI软件研发，但绝大多数人并没有专注于提升最先进的AI能力。而一旦ASARA到来，你可以想象一个拥有数百万虚拟顶尖研究者的团队，其中很大一部分可能全力推进前沿能力发展。
如果当前的AI软件进展速度意味着效率翻倍时间约为6个月，那么ASARA会显著加速这一速度。Forethought粗略估计，AI效率翻倍所需的时间可能会缩短到1-2个月。
如果这个循环完全不需要人类干预，AI进展速度可能会越来越快，最终达到软件智能爆炸（Software Intelligence Explosion，SIE）——指仅由软件驱动的反馈循环，在ASARA诞生后能引发加速的AI进步。
在SIE状态下，假设硬件投入不变，人类研究人员全部被ASARA替代，AI进步会更快，同时ASARA自身能力不断增强。
一个演示ASARA发展的数学模型
我们可以构建一个简化模型，来演示实现ASARA之后的增长飞轮。假设总算力不变，这个模型将展示两种情景：
- 软件研发的收益递减——随着软件改进变难，提升速度放缓；
- 日益强大的ASARA带来的正反馈——更强大的系统反过来推动更快的进展。
模型做了几个简化假设：
- ASARA可以分解成多个独立的AI研究员，每个都能执行软件研发中的所有任务；
- 所有AI进展都表现为撰写论文，每篇论文代表一个增量进步，进展通过累计论文数量衡量；
- 所有AI研究员的生产力相同，即每单位时间撰写论文数；
- AI研究员的生产力不随时间变化，但可以变得“计算更高效”——运行每个AI研究员所需的算力减少。
情景假设1：软件研发的收益递减
假设一开始只有1个AI研究员，生产力为每月1篇论文，并且在撰写2篇论文后计算效率可以翻倍——即2个月后，相同硬件下可以容纳2个AI研究员，每个每月1篇，总生产力每月2篇。但下一次效率翻倍所需的论文数量增加3倍，需要6篇。所以2个研究员写6篇论文需要3个月，才能实现第二次效率翻倍。第三次翻倍需要的论文数量再增加3倍，变为18篇，需要4.5个月。每次翻倍时间越来越长：2个月→3个月→4.5个月。
情景假设2：ASARA飞轮带来的正反馈
同样最初1个研究员，每月1篇，第一次翻倍需要2篇。第二次翻倍需要的论文数量只增加50%，即3篇。2个研究员写3篇只需1.5个月。以此类推，翻倍速度会越来越快。
在这个简化模型框架内推测，如果每次翻倍所需论文数量的增幅小于一倍，则意味着在有限时间内可能实现无限进步。
总而言之：当软件研发收益递减时，每次翻倍所需的论文数量比上一次增加超过一倍（如2→6→18），AI进步变难的速度超过了研究员增长的速度。而在ASARA飞轮中，每次翻倍所需论文数量增加不到一倍（如2→3），研究员增长的速度超越了翻倍变难的速度。
如果每次翻倍所需论文数量恰好翻倍，则每次翻倍仍需要2个月（2个研究员完成4篇，4个完成8篇，依此类推）。
若在模型中不仅关注效率改进，还关注能力改进时，当能力改进使得AI的输出增加到等同于效率翻倍的程度，就称该能力改进使AI软件能力翻倍。
Forethought用软件研发回报率r来衡量进一步改进AI软件的困难程度。r表示在AI软件研发累计工作量翻倍的情况下，AI软件能力翻倍的次数。r值越低，说明改进越难。
r值设定如下：
- r=1：持续指数增长，每次软件能力翻倍需要2倍研发投入。
- r<1：进展变慢，每次翻倍需要超过2倍投入。
- r>1：对应SIE，每次翻倍所需研发投入少于上一次的2倍。
假设ASARA首次开发时，软件翻倍时间缩短至1个月。如果r=0.7，每次翻倍时间比上次多35%，第二次在41天后，第三次55天，第四次74天，第五次100天——不到一年软件能力提升约30倍，随后显著放缓。如果r=3，每次翻倍时间只需上次的63%，分别为19天、12天、7.6天、4.8天……
持续指数增长需要r恰好为1，这似乎不太可能。但人类可能会采取措施来维持这个平衡点——既希望进展“加速”又不希望失控。
因此，是否会发生SIE完全取决于r是否大于1。
现实世界中，软件研发回报率是大于1还是小于1？
虽然这个模型是针对ASARA场景，但在没有达到ASARA的当下也适用。当前环境下，r表示每次人类研发累计工作量翻倍时，AI软件能力翻倍的次数。通过测量人类软件研发累计工作量的增长，并与AI软件能力的增长关联，可以估算r的值。
Forethought研究了图像识别、LLM、AI算法效率等领域，考虑了AI能力提升和软件改进的乘法效应（训练算法改进与后期微调、搭建框架等技术是乘法性相互作用）。Forethought估计，人类软件研发累计工作翻倍会导致AI软件能力若干次翻倍，r的最佳可能值在1-4之间。
这个结果实际上将软件进展与硬件进展放在了类似基础上。Tom Da vidson曾估算硬件的r值约为7，对AI芯片（GPU）从2006到2022年约为5——每次研发投入翻倍，计算成本降低5-7倍。硬件进展快大家都知道，但软件进展也可能以类似速度增长，这点很多人没意识到。
当然，当前的r值长期看不可持续。对固定数量的硬件，AI能力存在根本性的物理限制。但没有充分理由认为这个限制会略高于第一个ASARA的水平——人类可能不是最智能的生命形式，只是地球上第一个足够聪明到能从事科学和工程活动的生命形式。人类还在通过人口增长、专业化和文化发展中获益。此外，ASARA可能会使用比人类大脑发展过程中所用“计算量”更多的算力进行训练，说明在匹配人类学习方面仍有显著效率提升空间。
因此，尽管目前r可能大于1，但最终会下降——在基本限制下，r将需要降到0。但目前尚不清楚随着接近极限，r将如何下降。离这些限制越远，r仍然大于1的可能性越大，发生SIE的机会也越大。还有一点：越早达到ASARA，因为r那时未必已经降到1，所以越可能发生SIE。较短的时间表反而会增加SIE的可能性。
06. 软件智能爆炸的瓶颈和解决方案
硬件制约
上述分析都假设算力不构成瓶颈。但有可能在实现全自动Agent系统的过程中，模型研发的作用并不像想象中那么重要，关键推动因素可能是算力基础设施的扩张。毕竟硬件用于训练模型，更多硬件意味着更多或更大规模的训练。如果没有算力持续扩张，软件进展也可能停滞。
但软件效率提升会降低训练成本。如果算法改进使得在笔记本电脑上就能训练GPT-3规模系统，那每个拥有笔记本的研究员都能运行自己的实验。即使硬件不变，也能进行更多实验，这种效应可能足以维持快速进展。
如果硬件限制确实成为瓶颈，LLM公司也可以通过运行更小、更便宜的实验，并将结论外推到更大系统来弥补。之所以认为可以从更小实验中显著外推，是因为LLM和其他前沿AI系统通常在训练算力与最终表现之间存在非常明确的关系。比如，OpenAI发现GPT-4的某些特性可以从之前少于GPT-4算力的训练中高度预测。如果执行软件研发的ASARA同样能通过运行更小实验来推测大规模训练结果，那可能完全跳过大规模训练。
ASARA还可能通过多种途径显著提高训练质量、效率和信息价值：比如在运行实验前消除错误和设计缺陷，更重视有前景的方向，从第一性原理设计更有价值的实验，深入分析每个结果，综合所有实验结果，持续监控并在获得重要结果后立即终止实验等。
因此，AI软件研发可能会转向那些本身就不依赖大规模实验的方向，比如微调、构建和prompt等，这些方法的实验可能仍会带来实质性进展。
甚至有可能，在强硬件限制和ASARA迅速拓展的背景下，AI领域将从依赖大计算量的机器学习转向新范式——更少依赖实验，甚至完全放弃训练，转向显式设计所需的AI系统，类似于GOFAI（Good Old-Fashioned Artificial Intelligence）。
换个角度说，即使硬件限制不足以让软件进展停滞，没有这些限制的进展肯定会更快。上述解决方法可能仍然能让ASARA在硬件限制下取得实质性进展。
此外，在SIE中，边际回报递减可能比历史数据更陡峭。历史上计算资源在增长，研究人员可以发明只在新的计算规模下有效的算法。但在SIE中，硬件不变，限制在固定计算规模下的算法可能使边际回报递减更加陡峭。
考虑到硬件限制，Forethought将r的最佳猜测估计值下调到0.5-2。如果AI发展需要大规模实验则估计值较低，如果prompt和构建等改进能带来显著进展则估计值较高。
训练新AI系统的所需时间较长
在当前AI范式中，最强大的系统通常分两个阶段训练：较长的“预训练（pre-training）”和较短的“微调（fine-tuning）”。最强大的系统，预训练确实很长——可能需要几个月，使用大型数据中心。近期进展表明，微调在开发能力方面比传统认知上更重要、更持久，尽管目前微调仍远短于预训练。
正是这些长时间的训练——无论是预训练、越来越广泛的微调，还是其他尚未开发的训练阶段——可能成为AI进展的瓶颈，进而减缓SIE的发展。如果每一代ASARA只能创造出比它们自己稍微聪明一点的系统，并且每一代都需要漫长的训练过程，那进展会受到严重抑制。
不过，也有几个理由表明这类训练可能不会成为瓶颈。进展可能通过其他方法维持——比如专注于prompt、较短的微调。也可能开发出其他方法，比如在不重新训练的情况下修改已有系统的部分功能。
此外，AI范式的转变可能会更清晰地绕过这些障碍。如果训练新模型成为实现ASARA的瓶颈，这种瓶颈会为寻找替代方法提供巨大激励。即便从零开始训练新系统是必要的，仍然可以合理认为SIE可能发生——因为训练新系统的速度有可能比现在更快。算法改进可能让训练效率更高，每次所需时间减少。
如果ASARA的训练时间最初为2个月，然后通过算法改进提高了30倍的效率，这些效率提升不仅可以用来训练更强大的系统，还可以训练既更强大又计算负担较轻的系统。只要每次训练时间比上一次稍微快一些，训练时间最终可能趋近于零，AI进展也可能变得极为快速。因此，训练新AI系统的瓶颈可能会延缓而非阻止SIE的发生。
值得注意的是，训练AI系统所需的时间并不是当前AI范式固有的不可改变的属性，而是各种相互竞争因素之间的妥协——包括尽早完成训练的价值、算力价格、算力价格随时间变化的预期等。SIE发生时，平衡将大幅倾向于尽早完成训练（因为进展迅速，系统可能很快过时），这可能导致训练时间大大缩短。
训练新AI系统所需的时间仍然是一个悬而未决的问题。尽管上面提到的可能性存在，但也有可能所有不涉及长时间训练的进展方法最终要么完全失败，要么无法维持足够的进展。因此，要保持r>1，保持随着研发投入增加软件性能不断翻倍——而性能翻倍需要更多训练时间——可能会妨碍后续训练时间变得越来越短。