游乐游手机版
首页/AI热点日报/热点详情

上下文工程爆火唤醒大模型心智AI智能体落地关键

类型:热点整理2026-07-18
先说个核心判断:大语言模型的能力上了一个新台阶之后,AI智能体正从纯粹的聊天对话,迈向更复杂的多轮推理、多工具协同和长期任务执行。而支撑这场演变的幕后推手,是一个技术门槛正在迅速提高的新领域——上下文工程(Context Engineering)。继“Vibe Coding(氛围编程)”风靡之后,A

先说个核心判断:大语言模型的能力上了一个新台阶之后,AI智能体正从纯粹的聊天对话,迈向更复杂的多轮推理、多工具协同和长期任务执行。而支撑这场演变的幕后推手,是一个技术门槛正在迅速提高的新领域——上下文工程(Context Engineering)

继“Vibe Coding(氛围编程)”风靡之后,AI圈又迎来一波新的技术浪潮。这次点火的是前特斯拉AI总监、深度学习领域的布道者Andrej Karpathy。他在一次演讲中说得非常直接:“如果你想真正掌控一个大语言模型的行为,不要花时间去微调权重,去控制它的‘心智世界’——也就是你输入给它的上下文。”

在构建AI智能体的过程中,“上下文”绝不仅仅是几个提示词的简单堆砌。它是构成智能体“认知宇宙”的核心素材。它决定了模型当前能“看到”哪些信息(比如任务指令、外部知识、历史轨迹),也决定了模型“如何看到”(信息是否结构化)、“何时看到”(是静态注入还是动态更新)。

Karpathy有一个很形象的比喻:LLM是新的计算平台,模型本体好比CPU,而上下文窗口就是RAM。你不可能每次遇到新任务就去重新训练模型,但你可以通过上下文工程,来控制它“思考的材料”。

这个全新的工程范式,就是上下文工程(Context Engineering)。简单来说,这是一门集艺术与科学于一身的学问,核心目标是高效地填充LLM的上下文窗口,确保它在执行每一步任务时,手头恰好有“刚刚好”的信息量。这不仅涉及信息的选择、组织和注入方式,还要考虑上下文的动态性、可扩展性和准确性。

具体到AI智能体的构建,涉及的上下文类型大致包括:

  • 指令:提示词、少样本示例、工具的描述、系统角色的设定等;

  • 知识:结构化事实、通过RAG注入的外部知识库、或者模型自身的语义记忆;

  • 工具反馈:函数调用的结果、API返回值、插件响应等中间结果;

  • 历史轨迹:对话历史、用户输入记录、智能体执行过的策略路径。

这里有个现实问题:LLM的上下文窗口资源始终是有限的,就算现在扩展到了百万tokens,也依然有边界。如果不加选择地把所有信息都塞进去,结果只会是成本上升、响应延迟、性能下降,甚至加剧幻觉。所以,对上下文的管理和设计必须有一套系统化的策略。

四大上下文工程策略详解:写、选、压缩、隔离

1. 写上下文(Write Context)

写上下文,简单来说就是把关键任务信息保存在上下文窗口之外,但又能被模型间接利用。这就像人类会“写便签”、“做笔记”一样。

  • 便签(Scratchpads):Anthropic的研究表明,AI智能体通过工具调用或状态字段记录计划信息,能有效帮助自己在长任务中持久化策略、参数或状态。比如,研究人员把超过20万tokens的长任务拆解成阶段性步骤,并通过便签记录每一阶段的决策,成功避免了窗口溢出。

  • 记忆(Memory):智能体可以自动从多轮对话中提取高价值事实(语义记忆)、行为流程(程序记忆)和案例轨迹(情景记忆)并长期保留。ChatGPT、Cursor、Windsurf等产品都已经集成了这个机制,用来实现“个性化响应”。比如ChatGPT能记住用户的写作风格和工作场景,并在后续对话中主动融入。

2. 选上下文(Select Context)

选上下文,就是把最相关的信息拉进当前的上下文窗口。这是上下文工程里最具动态性的部分,覆盖了便签、记忆、工具和知识四种维度:

  • 记忆选择:像Claude Code使用CLAUDE.md文件、Cursor使用config rules,这些都是始终注入的规则性知识。而对于海量的语义记忆,ChatGPT会结合知识图谱和向量索引来过滤调用内容,但这也存在“意外注入”的风险——比如Simon Willison就曾遭遇AI自动泄露位置信息。

  • 工具选择:当大模型面对多种工具时,描述相似的可能会让模型产生混淆。RAG-MCP架构通过把工具说明索引入库,只检索与当前任务相关的工具描述。实验数据表明,这种策略能让工具选择的准确率提升3倍。

  • 知识选择(RAG):以Windsurf为例,它的代码RAG架构并不是简单的文本嵌入,而是结合了AST分块、语义重排、多源索引等多种手段,能在千万行代码中快速定位到与任务相关的逻辑模块。这大幅提升了智能体响应的专业度。

3. 压缩上下文(Compress Context)

压缩上下文的目的是精简冗余的tokens,主要通过“摘要”和“修剪”两种方式实现:

  • 上下文摘要(Summarization):Claude Code会在上下文窗口使用率达到95%后,自动对对话轨迹进行总结,然后替代原内容注入。可以采用递归摘要、层次摘要等策略,也可以训练专门的微调模型用于关键事件提取。

  • 上下文修剪(Trimming):直接用规则剔除那些旧的、无效的或冲突的上下文。比如清除最早回合的信息、剔除中间无用的路径等。这个方法操作简单,在工具调用频繁或成本敏感的场合尤其常用。

4. 隔离上下文(Isolate Context)

隔离上下文,就是把任务上下文拆分成多个“独立空间”,实现多Agent协作、环境分区或状态模块化:

  • 多智能体架构(Multi-Agent):比如OpenAI Swarm和Anthropic的多智能体研究,每个子Agent管理自己的上下文、工具和指令,适合处理分布式复杂任务。实验表明,相比单个Agent,这种模式的响应准确率有明显提升,尽管token使用量可能高达单Agent的15倍。

  • 环境隔离(Environment Isolation):Hugging Face的CodeAgent架构把代码工具执行放到沙箱环境里,工具调用的参数和返回值都在沙箱中完成状态隔离,只把最终结果注入LLM。这能有效防止上下文污染。

  • 运行时状态对象(State Object):以LangGraph为例,系统状态由结构化字段组成。开发者可以精确控制哪些字段在每一步注入模型,哪些信息保持隔离,只在特定回合暴露。这就实现了“动态上下文管理”。

可以确定的是,上下文工程已经逐步成为AI智能体设计的核心工程分支。从Anthropic的研究,到OpenAI的产品落地,再到LangChain/LangGraph这些开发框架的演进,都在指向同一个趋势:

上下文,不只是提示词,它是智能体的“工作内存”、“知识总线”与“行为约束”。

随着工具生态的扩张、多模态输入的爆发和任务复杂度的持续增长,AI智能体的上下文管理必然会走向更自动化、更智能、更语义化的方向。Context Engineering将从人工手工选择,进化为“智能上下文调度器”,成为每一个AI开发者的核心能力之一。

来源:https://www.53ai.com/news/LargeLanguageModel/2025071069451.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。