近年来，大型语言模型（LLM）在众多任务中展现了卓越能力——涵盖具体规划与行动、问答对话以及通用问题解决等广泛领域。然而，要真正将这些模型部署到现实世界的通用智能体场景中，仍面临两大挑战：一是如何确保智能体严格遵循程序化要求，二是提升智能体自身的易用性与可访问性。现有的智能体框架要么缺乏清晰的推理步骤，要么依赖为特定任务定制的代码化API平台——这种方式通常需要大量代码示例，生成过程相当繁琐。

如何解决这一难题？一个直观的思路是：将复杂任务拆解为代表“思考过程”的子任务（即节点），并为每个子任务设计相应的提示。这就引出了本文的核心——AgentKit。在AgentKit中，每个子任务（节点）可以像乐高积木一样，通过不同方式自由组合，实现丰富多样的功能。本质上，AgentKit是一个专为组装简单自然语言子任务而设计的LLM提示框架，旨在解决复杂任务。其基本单元是“节点”——每个节点包含针对特定子任务的自然语言提示。你可以将这些节点串联成链，从而清晰地构建出一个结构化的思考过程。更值得一提的是，节点可以按不同方式进行设计和组合，实现高级功能：例如即时层次化规划、反思、以及从交互中学习等。

每个节点都接收其依赖节点输出的信息，并输出一个字符串来完成预定义的子任务。如图中所示，橙色部分（After-query）是可选项，并且可以通过AgentKit API以极少的编程工作实现定制。左图展示了节点内部的评估过程，由compose（组合）和after-query（查询后）两部分构成。右图则展示了推理时动态增减节点的机制：例如节点n7的after-query操作会根据LLM对节点查询的肯定或否定回答，添加一个条件节点n+/n-，从而触发条件分支。

这种设计允许在推理过程中动态增减节点及其依赖关系，形成一个动态有向无环图（DAG），通过遍历DAG来计算每个节点的LLM输出。此外，AgentKit内置一个中心数据库，能够将任务规格、指令以及当前的游戏观察一并传递给图中的每个节点，同时允许节点存储和传递持久化信息。

下面来看一个由AgentKit驱动的示例智能体（节点名称缩写是为了节省空间）。(a) 在游戏的每一步，三个绿色总结节点——ns-obs、ns-plan、ns-action——分别对当前步骤的观察、计划和行动进行总结。(b) 在第T步时，所有蓝色规划节点接收oT−1、oT以及手册I作为输入，输出3个子目标和一个技能sT。节点nreflect对最近25步的总结进行反思，而nchallenge和ngate决定是延续还是更新第T−1步的子目标。(c) 每3步在技能sT下，紫色节点nfeed反思该技能下的全部游戏历史，并为规划器(b)生成一个针对该技能的反馈。(d) 在每一步T，灰色节点nkb-add检查oT−1、oT和I，从Lunk（未知知识库）中识别新信息。nunknown通过识别当前子目标中缺失的信息，将其添加到Lunk。

使用AgentKit实现的智能体在Crafter游戏和WebShop任务上均取得了最先进的结果。在Crafter游戏中，AgentKit实现了层次化规划、短期反思、长期反思以及从交互中学习的能力。

左侧三列展示了Crafter游戏中的一个示例轨迹。不同节点在规划、反思、反馈和知识发现方面协同工作，前11步就成功制作了桌子。通过与环境的交互以及错误识别与纠正，智能体发现了两个关键信息片段：“每次Do动作所需木材”和“制作桌子所需木材”——这些信息在初始说明书中均被省略。右侧列是游戏结束时智能体所有动作（分类为移动、Do—互动、制作）的分布，按技能库中的每项技能划分。从技能名称来看，动作分布完全符合人类预期。

在WebShop任务中，AgentKit设计了一个零样本智能体——完全不依赖人类轨迹示例，仅通过定制节点即可完成任务。

智能体在WebShop上与基线系统的对比：为节省成本，仅报告了前100个样本的得分。AgentKit在使用GPT-4以及成本更低的GPT-4-turbo时，均达到了最先进的性能。