这项由高通AI研究院（Qualcomm AI Research）主导的前沿研究，已正式发表于2026年5月的ICML 2026专题研讨会“Agents in the Wild: Safety, Security, and Beyond”论文集，论文编号为arXiv:2605.30102v1。对技术细节感兴趣的读者，可凭借该编号在arXiv平台查阅完整原文。

首先，一个核心问题或许比想象中更贴近你的日常生活：当你手机中的AI助手处理一项复杂任务时，它究竟应该完全在本地设备上独立完成，还是每次都将问题打包上传至远程云端服务器？亦或存在一种更聪明的协作方式——让本地小模型与云端大模型相互配合、取长补短？这篇论文的初衷正是要系统地回答这一关键问题。

该研究团队在一个颇具实验精神的框架下构建了方案：他们设计并测试了两种不同的“云边协作”多智能体系统（Multi-Agent System，简称MAS）架构，并在三个难度逐级递增的任务测试集上展开了详尽对比。研究目标非常明确——在准确性、云端调用成本与设备耗电量这三者之间，寻找最优的平衡路径。

一、先搞清楚问题的由来：为什么一台AI不够用？

在正式介绍方案之前，有必要先理解，研究团队为何会聚焦于这一问题。

目前最强大的AI语言模型，如GPT-4o，通常部署在云端服务器集群中。这些模型拥有数百亿甚至更多参数，对计算资源的需求极为苛刻。普通用户只能通过网络API进行调用，且每次调用均需付费。简单的问答尚可应付，但若要求AI连续执行数十步操作，其费用将迅速攀升。更棘手的是，许多用户对将个人数据上传至云端心存顾虑，而云端服务偶尔也会出现不稳定情况——如服务下线、访问限流等，均可能引发不可预见的任务中断。

然而，硬币的另一面是，小语言模型（SLM）近年来能力突飞猛进。一个参数量在40亿至320亿之间的模型，完全可以流畅运行于高端手机或普通笔记本电脑中。其优势在于成本低廉、响应迅速、隐私风险更低，但短板同样明显：在处理复杂、长流程任务时，其能力仍显著弱于云端大模型。尤其是受限于设备内存，它能处理的上下文长度远不及云端模型——这一点在需要记忆大量历史信息的长任务中，构成了本质性的硬伤。

因此，研究团队提出了一条全新路径：混合多智能体系统。简而言之，就是让设备端的小模型主要负责执行具体操作，而云端的大模型仅在关键时刻介入，提供策略指导或错误纠正。这既能节省云端调用的成本，又能在必要时借助大模型的强大能力——打个比方，就像你平时自己查地图、自己开车，只有在真正迷路时，才打电话向导航专家求助。

二、两种协作模式：大脑指挥手，还是手带着大脑走？

研究团队并非凭空构思，而是从现有的多智能体系统研究中，提炼出两种具有代表性的协作模式——分别称为PEVR和EVA。要理解整项研究，必须先弄清楚两者的区别。

第一种是PEVR，全称“规划—执行—验证—重规划”。在这一模式中，云端大模型扮演“项目经理”的角色：任务启动时，它首先根据用户需求，生成一份详尽且结构化的自然语言执行计划，例如第一步做什么、使用何种工具、预期得到什么结果。随后，这份计划被交付给设备端的小模型按步骤执行。小模型每执行若干步骤，云端大模型便会检查一次进度——一旦发现执行偏离了既定计划，或者小模型遇到瓶颈，大模型就会重新规划后续步骤，并下发给小模型。该架构的核心特征在于：大模型不仅承担中途监督职责，还在任务开始前就绘制好了完整的行动蓝图。

第二种是EVA，全称“执行—验证—建议”。这一模式赋予了设备端小模型更大的自主权：它接到用户问题后立即开始执行，无需事先制定详细计划。云端大模型会定期关注小模型的执行状况，但仅在发现明显异常时才会介入。其介入方式也与PEVR不同——并非提供一份全新的步骤列表，而是先总结小模型此前完成的工作和发现，再给出下一步的大致方向。与此同时，EVA有一个独特设计：当大模型介入并给出建议后，小模型的记忆将被清空，并从建议出发重新开始，避免被此前积累的错误历史信息所误导。

两种模式均满足了研究团队提出的四项核心设计原则：复杂且耗时的工作在设备端完成，以降低云端成本；用户可以调整“验证间隔”，控制大模型介入的频率，从而在成本与性能之间取得平衡；每次大模型介入后均重置小模型的上下文，防止设备内存溢出。

三、测试擂台：从简单查资料到复杂操作手机应用

为了进行全面评估，研究团队选择了三个难度递增的任务测试集，覆盖从短程推理到长程交互的广泛场景。

第一个是HotpotQA——要求AI阅读维基百科中的多篇文章，找到并综合不同来源的信息，回答一个需要“跳跃式推理”的问题。例如，“X电影的导演和Y电影的主演是否是同一个人？”这类任务流程较短，几步即可完成，主要考察基础信息检索与推理能力。

第二个是FanOutQA——可以视为HotpotQA的增强版。问题需要同时查询多个相关实体的信息并进行汇总聚合，例如“以下十个城市中，哪些在2020年人口超过500万？”这需要更长的推理链和更强的中间状态追踪能力。

第三个是AppWorld——难度最高，也最贴近真实应用场景。它模拟了一个拥有购物、邮件、支付、笔记等九个应用的虚拟手机生态。AI需要通过调用这些应用的API，完成多步骤、有状态的任务，例如“查看购物车总价，然后通过Venmo向朋友请求这笔钱”。这类任务不仅流程冗长，还设有严格的状态检查——如果AI中途出错，比如将钱转错对象，后果可能无法挽回。该测试集最能体现AI在长程任务中的规划、纠错和状态追踪能力。

在模型选择上，云端大模型固定使用GPT-4o；设备端则选用了Qwen3系列，包括4B、8B、14B、32B四个规格（数字越大表示模型能力越强，但同时资源消耗也更大）。4B和8B模型可在手机上运行，14B和32B模型则适合高性能笔记本。通过调整大模型介入的频率（即验证间隔），研究团队系统地探索了不同配置下性能与成本的变化曲线。

四、意外收获：越多云端干预，不等于越好的结果

整体结论并不像人们直觉上那般简单。研究团队发现了几条颇为出人意料的规律。

首先，最直观的好消息是：混合架构确实有效。在所有测试场景中，均能找到某种MAS配置，其效果优于纯设备端单体模型，同时成本低于纯云端单体模型。这表明云边协作本身是一个有价值的研究方向——设备端小模型确实能从云端大模型的协助中获益。

但第一个“惊喜”是：没有任何一种架构能够在所有任务中成为最优解。PEVR在AppWorld上表现明显优于EVA，但在HotpotQA和FanOutQA上，情况却截然相反——EVA性能更佳，而PEVR有时甚至不如纯设备端单体模型。这说明，架构的优劣高度依赖于具体任务的性质，不存在“放之四海而皆准”的通用方案。

第二个意外发现则更加反直觉：增加云端介入频率，并不总能提升性能，有时反而会带来明显的负面影响。在两种架构中，均存在一个“最优验证间隔”——当介入频率超过这个阈值后，任务准确率反而开始下降。这直接打破了许多人的固有认知：大模型介入越多，结果就越好？事实并非如此。

为了深挖背后的原因，研究团队进行了深入的机制分析。他们发现：在AppWorld这类需要严格按步骤执行、前期行动直接影响后续状态的任务中，PEVR的优势恰恰在于它从一开始就提供了一份详细、明确的步骤计划。小模型只需按图索骥即可。相比之下，EVA没有初始计划，小模型需要自行摸索，更容易因早期操作失误而失败，且往往难以挽回。

然而，在FanOutQA这类深度搜索任务中，情况则完全相反。研究团队通过分析大量任务轨迹发现，PEVR的监督机制存在一个缺陷——它倾向于“误报”。也就是说，它经常在小模型明明正常运行时，也触发不必要的干预和重启。数据显示，在PEVR架构下，同一任务中小模型被重复重启的情况相当普遍，而重启次数与任务成功率呈明显的负相关。换句话说，PEVR的“过度积极介入”反而打断了小模型好不容易建立起来的推理脉络。相比之下，EVA的查询导向型监督更为保守——只在确实出现问题时才介入，因此对长程搜索任务更加友好。

五、一张误报率表格揭示的深层秘密

为了更精确地量化两种架构在监督决策上的差异，研究团队设计了一个巧妙的对照实验：让监督大模型正常运行并给出是否介入的判断，但实际上并不执行任何介入操作，而是让设备端小模型一路执行到底。这样一来，研究人员可以事后将大模型的判断与任务的实际结果进行对照，从而统计出误报率和漏报率。

结果非常清晰。在AppWorld上，PEVR的误报率为6.2%（即大模型认为需要干预，但任务本可以成功执行），而EVA的误报率仅为1.9%。在FanOutQA上，PEVR的漏报率为8.4%，远低于EVA的14.8%——这意味着，当任务确实出现问题时，基于计划的监督能够更准确地察觉异常。但问题恰恰在于：PEVR在FanOutQA上6.1%的误报率，与EVA的7.7%相比，差距并不算大，可一旦叠加了重启本身对长程推理的破坏性，就导致了PEVR在搜索类任务上的明显劣势。

这一发现揭示了一个微妙的设计原则：对于执行步骤明确、状态转移严格的任务（如UI操作），激进的监督和频繁纠偏是有益的；而对于需要连续积累信息、构建长推理链的任务（如深度搜索），保守的监督和避免不必要的重启则更为重要。监督策略必须与任务类型相匹配，不能一刀切。

六、角色互换实验：把云端模型降为执行者会怎样？

研究团队还进行了一项“反向配置”实验：让云端的GPT-4o充当执行者，而设备端的Qwen小模型充当监督者。直觉上，这似乎可以借助云端大模型更强大的执行能力来提升整体性能。然而，实验结果令人大跌眼镜——这种配置在所有测试任务上的表现，都不如纯云端单体模型，而成本却更高。

原因并不复杂：当云端大模型承担执行工作时，每一步推理都会产生大量的输出token，导致API费用直线飙升；此外，执行工作本身高度串行，云端高并发的优势完全无法发挥。与此同时，设备端小模型的监督能力有限，无法有效识别何时需要干预。这一实验有力地支持了一个核心设计原则：在混合系统中，执行工作应当放在设备端进行，而云端大模型的稀缺资源，应当节省下来用于高级决策。

七、混合系统是两个单体的简单叠加吗？

研究团队还使用韦恩图分析了一个有趣的问题：混合MAS系统能够解决的任务，是否仅仅是纯设备端模型和纯云端模型能够解决任务的简单并集？

答案是否定的。在所有三个测试集上，混合MAS系统都成功完成了一些既无法由纯设备端模型独立完成、也无法由纯云端模型独立完成的任务。这证明了混合协作产生了真正的“涌现能力”——系统的整体能力，超越了其组件能力的简单相加。与此同时，数据也显示，三种系统（纯设备端、纯云端、混合MAS）各有其擅长的任务，没有任何一种配置能够完全主导另外两种。这意味着一项重要的设计启示：理想情况下，一个真正智能的系统，应当能够根据具体任务的特点，动态选择最合适的协作模式，而不是固守某一种架构。

八、节省内存这件事，比想象中重要得多

在设备端部署AI模型时，内存是一个严峻的约束条件。小模型在处理长任务时，需要在内存中缓存大量的“上下文”信息（即KV缓存，可以理解为AI的工作记忆）。一旦内存耗尽，性能将大幅下降，甚至直接崩溃。

研究数据非常直观。以纯设备端单体模型在AppWorld上运行为例：当最大允许步数从20步增加到80步时，Qwen3-8B的KV缓存峰值从3.52GB膨胀到了5.17GB。而且，当步数达到80时，大约有20%的任务会因上下文溢出而直接失败——任务成功率反而从最高时的0.02直接降至0.00。混合PEVR架构的表现则截然不同：在相同条件下，其KV缓存峰值从3.34GB上升到3.82GB，增长幅度远小于单体模型；而且任务成功率随步数增加从0.07稳步提升到0.11，并未出现崩溃式下降。

背后的原因，正是之前强调的上下文重置机制。每次大模型介入并给出新的计划或建议后，小模型的历史对话记录就被清空，重新从干净的状态出发。这既清除了积累的错误信息，也将工作记忆的占用量控制在了可管理的范围内。研究团队还测算了实际部署中的内存占用：结合GPTQ量化方案，Qwen3-8B的权重加KV缓存总占用不超过6GB，完全在主流手机可用内存范围之内；Qwen3-32B的总占用不超过16GB，适合高性能笔记本。这说明，混合MAS架构在解决内存约束方面，具备实际可行性，而非纯粹的理论方案。

九、EVA的摘要功能：一把双刃剑还是秘密武器？

EVA架构拥有一个PEVR所不具备的特性：大模型在介入时，不仅给出建议，还会先对小模型之前所做的工作进行总结压缩，然后将精简版的历史信息交给重启后的小模型作为参考。乍一看，这似乎是EVA在深度搜索任务上表现优异的重要原因。

然而，研究团队专门进行了消融实验来检验这一假设——结果出乎意料：去掉EVA的摘要功能后，EVA在FanOutQA上的表现几乎没有变化。这说明，EVA的优势并非来源于摘要功能本身，而主要来自于其查询导向的监督逻辑（更少的误报）以及建议式的介入方式（更加温和的纠偏）。不过，摘要功能对于降低KV缓存占用确实有所贡献，因此在内存管理方面仍具有价值，但并非性能提升的核心驱动因素。

这一发现给研究者提了个醒：在多智能体系统设计中，那些直觉上看起来很有用的功能，其实际效果需要通过严格的消融实验来验证。不能想当然地认为“更多功能就等于更好性能”。

归根结底，这项来自高通AI研究院的研究做了一件相当有意义的事：它并未简单地喊出口号称“混合AI是未来”，或者“云端大模型无所不能”，而是踏踏实实地进行测量、分析与对比，给出了一个诚实且细腻的答案。

核心结论可以用一句话概括：云边协作是可行的，但不存在通用的最优方案，架构选择必须与任务类型严格匹配。对于需要精确按计划执行的操作类任务，由云端大模型制定详细计划并严格监督的PEVR架构效果更佳；对于需要灵活探索、积累信息的搜索类任务，让设备端小模型自主发挥、云端大模型保守介入的EVA架构更为合适。云端介入并非越多越好——一旦超过某个阈值，反而会适得其反。

对普通用户而言，这项研究预示着未来的AI助手将可能更加智能地在设备本地与云端之间动态调度，而不是像现在这样非此即彼。你的手机AI或许有一天能够在处理日常小任务时完全在本地运行，既快捷又保护隐私；而遇到真正棘手的复杂任务时，才向云端求援，获得恰到好处的指导。

研究团队也坦承，目前的研究仍存在一些局限：测试场景只涉及深度搜索和UI操作两类任务，云端模型仅使用了GPT-4o一种，并且为了控制实验成本，也未进行多轮重复实验。如何设计一个能够根据任务特点自动选择最优协作架构的“元系统”，是研究团队明确指出的值得探索的未来方向。对技术细节感兴趣的读者，可通过arXiv编号2605.30102查阅完整论文。

Q&A

Q1：混合多智能体系统（Hybrid MAS）和普通AI路由系统有什么区别？

A：普通AI路由系统会将一个问题直接分配给云端大模型或设备端小模型中的某一个来回答，两者之间没有协作。而混合多智能体系统则不同——设备端模型和云端模型在同一个任务中扮演不同的角色：设备端负责逐步执行，云端负责定期监督和纠偏。两者的分工并非“谁来回答问题”，而是“谁来执行、谁来指挥”，因此能够产生超越单独任一模型的能力。

Q2：PEVR架构和EVA架构分别适合什么类型的任务？

A：PEVR（规划—执行—验证—重规划）更适合步骤明确、执行顺序严格、操作失误代价高的任务，例如操作手机应用完成多步骤指令。EVA（执行—验证—建议）更适合需要灵活探索、持续积累信息的搜索类任务，例如在多个网页中汇总信息来回答复杂问题。关键区别在于：PEVR从一开始就提供详细计划，而EVA则让执行者自主发挥、监督者保守介入。

Q3：为什么增加云端AI的介入频率反而会降低任务成功率？

A：主要原因在于不必要的“上下文重置”打断了AI正在构建的推理链。在搜索类任务中，AI需要连续积累多步信息才能形成完整判断。如果云端监督频繁介入并强制清空历史记录重新开始，即使每次重置都带来新的指导，也会导致此前积累的有效信息白白丢失。实验数据显示，任务中被重启的次数越多，最终成功率就越低——过度干预本身就是一种负面影响。