编者按：很多人都在说，智能体（agent）是生成式人工智能的未来走向。但到底该怎么走，分歧不小。靠简单链式流程拼出来的智能体，灵活性和力量都差点意思，根本没把大语言模型（LLM）的潜力发挥出来；可要是搞成完全自主型的，又常常跑着跑着就崩了，根本不实用。在这两极之间，一种“金凤花”式的智能体——不过分简单，也不过度自由——正越来越受追捧。文章来自编译。
ChatGPT之后，AI圈下一个真正的大拐点是什么？很多人会回答：智能体——那种能用LLM自主和世界互动的存在。AutoGPT那会儿火得一塌糊涂，但很快就昙花一现了。说白了，雷声大，雨点小，炒作归炒作，现实还是骨感的。
不过今年有些不一样了。不管是客户支持还是代码编写，更接地气的智能体已经悄悄上线，开始被广泛关注。开发、部署智能体的新方法正在让它的性能和可靠性双双提升。
这事儿很重要。因为智能体仍然是AI希望的核心：LLM本身很牛，但真正让人兴奋的是——让AI替你去做规划、去行动。AI越像员工而不是工具，能帮我们做的事就越多。
为了把这个话题聊透，我们找来了LangChain的创始人兼CEO Harrison Chase。Harrison在ChatGPT还没问世的时候就开始搭LLM驱动的智能体基础设施了，而LangChain早已成为开发智能体应用的标准框架。让他来讲智能体的演变，再合适不过。
智能体的范畴
简单来说，智能体就是让LLM来控制应用流程的任何应用。
事后看，AutoGPT的毛病一目了然：野心太大，约束太少，根本达不到期望。虽然听着激动人心，能激发想象力，但作为LLM迈向通用智能体的概念验证，它太自由了，没法稳定地完成有用的事。
新一代智能体之所以靠谱，关键在于它们用了定制的认知架构——这种架构既能给LLM提供护栏，又能把状态控制住，让智能体专注不跑偏，同时还能充分发挥LLM的全部本领。
要理清现实中我们见到的各种智能体，有个很实用的分类方法：把它们分成“简单硬编码型”和“完全自主型”两个极端。这样一画，中间的“灰姑娘地带”就清晰了——那里恰恰是我们近期到中期最可能看到有用智能体的地方。
在这个光谱的最简单端，LLM扮演的是“路由器”：它来决定走哪条路，最多再做一步分类。这时候LLM调用控制着应用流程，但大部分逻辑还是硬编码的。而在最复杂的那端，则是像AutoGPT那样的完全自主智能体。简单链式流程的智能体不够灵活、不够强大，没有真正利用好LLM范式；完全自主的又常常失效，根本没法用。
有着定制化认知架构的“金凤花”智能体
开发者们正在中间地带寻找那个“恰到好处”的平衡点：把大量控制流交给LLM，但自己仍保留一套轨道和“状态”感。
这个中间状态，是能力、灵活性和控制的最佳组合，但也是开发者最难搞定的——它需要一种结构化但非确定性的自定义认知架构。完全自主的智能体几行代码就能实现：极端情况下，你只需要让智能体在for循环里每步选一个动作。简单的智能体也很好编码，因为可变的随机性很少。而在中间状态开发，你要把大量控制权（连同随机性）交给LLM，同时还得把控高级应用流程和状态管理。
Harrison在访谈里引用了贝索斯的一句妙语：“把注意力聚焦在让啤酒味道变得更好的东西上。”当时他用20世纪初啤酒厂自己发电、和科技公司在AWS出现前自己管基础设施来打比方。在一个智能体动不动就崩的世界里（SWE-bench跑出12-13%就被认为是最先进了），实施定制化认知架构，绝对能让“啤酒味道”变得更好。
走在模型的前面
但这种状态能持续多久？Harrison在AI Ascent大会的演讲中也提到了这个问题。他问：底层LLM的不断改进，会不会慢慢把开发者在“中间地带”构建的推理和规划能力吸收进去？换句话说，定制化认知架构会不会只是权宜之计？
这个问题很尖锐：许多最早靠提示工程搭建的智能体架构（比如思维链）已经默认融入了后续的LLM迭代中，从而不需要再围绕LLM单独开发它们。可以肯定，各大研究实验室的研究人员都在钻研推理、规划、搜索这些问题。
Harrison的看法是：虽然越来越多的通用推理会默认集成到大模型里，但应用或特定领域的推理仍然需要。因为即使都做规划和行动，软件工程师和科学家的做事方式完全不同，不同公司的科学家也各有一套。领域和特定应用推理的空间实在太大了，这些东西没法有效地编码到通用模型里去。
定制化认知架构比提示工程复杂，比LLM更专业
软件 2.0
用LLM开发应用属于全新范式，和软件1.0的开发方式截然不同，需要全新的可观察性和评估方法。Harrison认为，很多传统软件开发工具根本应付不了LLM应用的不确定性。当智能体出现、控制应用逻辑的方式改变时，引入可观察性与测试来监控应用行为变得至关重要。如果你正在构建自定义认知架构，有几个点必须想清楚：
关于应用开发：你可能需要围绕“状态”图来设计，然后用持久层、后台异步编排、状态的循环处理等来管理和部署。Harrison发现这种模式在智能体部署中反复出现，而LangGraph正是为了帮助开发者构建这种新范式而生的。关于可观察性与测试：现有的监控工具没办法追踪LLM调用中间出现的各种问题。而且在一个充满随机性的世界里，测试也变了味——不再是“2=2”这样计算机能直接跑的单元测试了。测试变成了更细腻的概念，需要用上成对比较（比如Langsmith、Lmsys）以及跟踪改进/回归等技巧。所有这些都需要一套全新的开发者工具。
“金凤花姑娘”智能体的兴起之所以让人兴奋，是因为它让我们看到了创造能替我们工作、同时又在我们控制之下的软件的巨大潜力。要实现这个潜力，不仅需要模型本身的不断进步（这一定会发生），还需要围绕这种全新应用开发模式而生出一整套全新的工具生态。
