大家都知道，大语言模型正在从单打独斗走向多模型协作。但问题也随之而来：系统不只需要知道该调用哪个模型，还需要知道该让这个模型扮演什么角色、在哪个步骤出场、又如何与其他模型默契配合。

现有的LLM路由器，大多还停留在“选模型”这个层面：给定一个问题，判断它该交给Qwen、LLaMA、Gemma、Mixtral，还是其他模型。进一步的多轮路由器虽然能多次调用，但本质上仍旧是“连续选模型”，缺少对多智能体协作流程本身的显式构建。

UIUC的研究团队最近提出的GraphPlanner，就是冲着这个痛点来的。它把LLM路由从“选模型”直接推进到了“生成多智能体工作流”的高度。简单来说，系统在每一步不仅要决定调用哪个模型，还要决定激活哪个智能体角色，并利用图结构记忆来记录历史交互和当前工作流的状态，最终实现更高效、更泛化的多模型协作。

研究背景

传统的单轮路由逻辑很直接：给定一个query，挑一个最合适的LLM来回答。简单高效，但对复杂任务来说，这种方式的局限性很明显——它既不会拆解任务，也没法组织多个模型之间的协作。

多轮路由则放宽了限制，允许反复调用不同模型。比如Router-R1，可以在“思考—路由—聚合”的循环中，多次调用不同的LLM。但这类方法骨子里还是更关注“下一步该调用哪个模型”这个核心问题，没有显式地去建模多智能体系统中的角色分工和协作结构。

现实世界里的复杂任务，往往需要更接近“智能体工作流”的处理方式。举个例子：先由Planner把复杂问题拆成几个子问题；再由多个Executor分头解决子任务；最后由Summarizer把中间结果汇总，形成最终答案。GraphPlanner就是围绕这个思路来的——一个路由器不只要决定调用哪个模型，还要决定调用哪个智能体角色，并且动态生成最适合当前query的协作工作流。

GraphPlanner

GraphPlanner的核心思想，是把路由过程建模成一个序列决策问题。在每一步，它不再只选一个模型，而是选一个二元动作：动作 = 智能体角色 + 模型主干。

研究团队默认定义了三个基础角色：

1. Planner：负责把复杂query拆成若干个原子性子问题；
2. Executor：负责回答原始query或子问题；
3. Summarizer：负责聚合多个中间结果，生成更一致的上下文或最终答案。

所以，GraphPlanner的每一步决策其实都在回答两个问题：当前应该由哪个角色执行？应该用哪个模型来执行？

这种设计，让路由器从一个简单的“模型选择器”升级成了一个能构建query专属工作流的“多智能体规划器”。面对简单问题，它可以直接选Executor一步搞定；遇到复杂的数学、代码或多跳推理任务，它可以先调用Planner做拆解，再派多个Executor逐个击破，最后让Summarizer把推理链路汇总起来。

GARNet

GraphPlanner的另一个关键创新，是引入了异构图记忆网络GARNet。

在多智能体LLM系统里，每次调用都会产生大量交互信息：query是什么、哪个模型被调用、它扮演了什么角色、输出了什么、成本多少、最终是否正确。这些历史交互痕迹本身就是非常宝贵的路由记忆。它们能告诉系统：在相似任务上，哪些模型更适合当Planner？哪些适合当Executor？哪些角色搭配更高效？

为此，GraphPlanner构建了两类图记忆：

工作流记忆图：记录当前query在本轮推理过程中生成的子问题、角色调用和中间回复；
历史记忆图：记录过去任务中的query、response、LLM-角色交互、准确率和成本信息。

GARNet把query节点、response节点、LLM-角色节点以及准确率-成本边组织成异构图，并通过共享的role hub节点连接当前工作流和历史记忆。这样一来，GraphPlanner在做下一步路由决策时，不仅能看清当前query的状态，还能从历史交互中获取模型能力画像和协作模式。

用强化学习训练Agentic Router

因为GraphPlanner的路由工作流涉及离散的角色选择、模型调用、子问题分解和结果汇总，整个过程很难直接端到端求导。所以研究团队把工作流生成建模成马尔可夫决策过程，并用PPO来做强化学习训练。

奖励函数同时考虑了任务效果和调用成本：最终回答的正确性带来task utility；每一步模型调用会产生computational cost；超参数α则用来控制准确率-成本的权衡。

换句话说，GraphPlanner学到的不是一套固定的工作流模板，而是一种动态策略：面对不同的query，它能够自适应地决定是否需要规划、是否需要拆解、调用几个模型、每个模型扮演什么角色，以及何时汇总并输出最终答案。

实验结果：更强性能、更低训练成本、更好泛化

GraphPlanner在14个任务、6个领域上做了系统评估，覆盖了数学、代码、常识推理、世界知识、主流基准测试以及域外任务。

实验分两个阶段：
Phase 1：在用户预定义的工作流中，优化不同agent的模型主干选择；
Phase 2：同时生成工作流并选择对应的模型主干。

结果显示，GraphPlanner在两个阶段都显著优于单轮和多轮路由基线。在Phase 1中，即使工作流固定，它依然能拿到最高平均准确率，说明图记忆增强的路由策略能更好地为不同agent分配合适模型。到了Phase 2，当系统可以自由生成工作流时，GraphPlanner的优势进一步拉大，比最强基线提升了约9.3%的平均准确率，这意味着query-specific的工作流生成确实比固定工作流更适合复杂任务。

更关键的是，GraphPlanner的效率表现也很亮眼。相比Router-R1这类基于强化学习的多轮路由器，它在训练阶段大幅降低了GPU计算量，同时通过轻量级的图策略网络实现了更高效的路由决策。

泛化能力：支持Unseen Tasks与Unseen LLMs

一个好的LLM路由器，不应该只记住训练集里的任务和模型，还得能泛化到新的任务类型和新的模型主干。GraphPlanner在域外任务LogicGrid、MGSM和CommonGen上取得了78%的平均准确率，明显优于GraphRouter、RouterDC和Router-R1等基线。

更值得注意的是，当实验里加入训练阶段从未见过的模型时，GraphPlanner依然能保持稳定且更优的表现。这说明它并不是简单记忆某个模型在某个任务上的标签，而是通过LLM-角色图和历史交互记忆，学到了更可迁移的协作模式。

此外，GraphPlanner支持两种推理方式：
Inductive Setting：不依赖保留的历史交互，部署更轻量；
Transductive Setting：利用历史交互记忆，获得更高性能。

这种设计让GraphPlanner可以根据实际部署需求，在效率和性能之间灵活切换。

总结

GraphPlanner的核心贡献，在于把LLM路由器从传统的模型选择推进到了工作流生成。过去的路由器主要回答：这个query应该交给哪个模型？GraphPlanner则进一步回答：这个query应该如何拆解？哪些角色应该参与？每个角色由哪个模型执行？当前工作流如何借鉴历史经验？如何在效果和成本之间取得更优平衡？

所以，GraphPlanner不只是一个更强的路由器，它更是迈向多智能体LLM系统自动化编排的重要一步。它让多个异构模型不再只是被动调用的工具，而是能够在Planner、Executor、Summarizer等角色下，形成结构化的协作流程。对于未来的AI基础设施而言，这种“规划、路由、记忆、协调”的能力，将成为构建可扩展、多模型、多智能体系统的关键能力。