游乐游手机版
首页/AI热点日报/热点详情

别卷提示词了上下文工程正在淘汰你

类型:热点整理2026-07-25
AIAgent应用正从提示词工程转向上下文工程,核心策略包括动态压缩、持久化记忆和子智能体架构,通过信息策展与循环管理提升模型性能,成为下一代AI产品难以复制的核心竞争力。

AI Agent 应用正经历一场从“提示词工程”向“上下文工程”的深刻范式迁移,这将成为下一代 AI 产品构建核心竞争力的关键突破口。

提示词工程的辉煌与局限性

过去几年,业界大量精力集中在提示词(Prompt)的优化上。我们学习如何下达更清晰的指令、提供更丰富的背景,并通过少量示例引导大模型,力求在单次交互中获得令人惊艳的结果。

在这一阶段,行业普遍迷信更大的上下文窗口(Context Window),认为更长的上下文就能带来更强的智能,似乎只要把所有资料都灌给大模型,它就能解决一切问题。于是从 2024 年 3 月起,以 Kimi 为代表,各大模型厂商开始竞相提升上下文长度。

别卷 Prompt 了,上下文工程正在淘汰你

然而,随着 AI Agent 应用的深入实践,纯提示词工程(PE)很快遇到了瓶颈。大型语言模型存在注意力预算(Attention Budget)的限制——当上下文窗口被海量、未经筛选的信息填满时,模型性能不会线性提升,反而因信息过载而下降,产生上下文衰减(Context Rot)现象。模型会遗忘或忽略上下文开头或中间的关键信息,导致输出结果的连贯性和准确性大幅降低。

同时,基于传统单条提示词 + 参考资料的 PE 范式,正被上下文工程逐步取代。

\

上图直观展示了两种模式的根本区别:左侧的提示词工程是一条单向、一次性的路径;右侧的上下文工程则是一个动态、循环的系统,强调在信息送入模型前必须经过一道关键工序——策展(Curation)

提示词工程 vs 上下文工程对比表:

  • 提示词工程:静态指令 + 参考资料;一次性填充;信息无筛选;容易上下文超限或衰减
  • 上下文工程:动态策展 + 循环管理;持续优化;信息智能压缩;持久化与子智能体支持

上下文工程的三大核心策略

上下文工程的本质,是一套关于如何为 AI 精心筛选和管理信息的系统性方法论。它不再追求将所有信息塞给模型,而是追求在每一个任务环节都为模型提供最优信息组合。根据 Anthropic 的实践,可归纳为三大核心策略。

策略一:优化窗口内的信息流——动态压缩(Compaction)

解决长对话中信息遗忘问题最直接的方法,是在上下文窗口接近上限时,对内容进行智能压缩。这并非粗暴总结,而是保留关键决策、待办事项和核心上下文的提炼过程。

\

在 Claude 玩宝可梦的 Agent 实验中,系统通过一个循环的“摘要/管理”模块,让 Claude 持续总结游戏进展,使 AI 在长达数小时的游戏过程中保持目标和记忆的连贯性。通过这种方式,AI 获得了在长时间任务中进行自我反思和状态跟踪的能力,确保“注意力预算”始终用在最关键的信息上。

小提示:在实际业务中,即使采用动态摘要,若用户输入的所有内容都很重要且难以舍弃,最终仍可能达到上下文上限。建议结合优先级标记或重要性评分,让压缩模块自动决定保留哪些信息。

常见问题:动态压缩会丢失细节吗?
答:会丢失部分非关键细节,但核心决策链条和待办事项会被保留。若某些细节对任务至关重要,应通过持久化记忆模块保存,而非依赖上下文窗口。

策略二:突破窗口的物理限制——持久化记忆(Persistent Memory)

大模型上下文窗口类似计算机内存,断电即失。要让 AI 具备长期记忆和个性化能力,必须为其配备“硬盘”——持久化的外部记忆模块。上下文工程赋予 AI 调用工具的能力,使其可随时读写外部知识库或笔记文件。

\

在宝可梦 Agent 中,AI 通过工具随时更新自己的“知识库”,记录关键发现和个人偏好。这一策略使 AI 能超越单次对话限制,沉淀对用户和项目的理解,构建能与用户共同成长的伙伴式 AI。

小提示:持久化记忆模块应设计为结构化的键值存储(如记忆向量数据库),并为每条记忆附加时间戳、重要性评分和关联上下文标签,便于后续精准检索。

常见问题:持久化记忆会不会导致隐私问题?
答:是的。设计时需指定哪些信息可持久化、哪些仅用于单次对话。建议为用户提供记忆清除按钮,并遵守数据隐私法规。

策略三:分解复杂任务的上下文——子智能体架构(Sub-agent Architectures)

当 AI 面对需要多种专业能力的复杂任务时,让单一 Agent 承载所有上下文和工具通常导致混乱。Anthropic 给出的更优策略是“分而治之”——将宏大目标分解,交由多个专职的子 Agent 协同完成。每个子 Agent 拥有自己独立的、高度优化的上下文环境,专注处理特定子任务。

例如,一个中心化 Agent 可将开发任务分解,协同调度四个子 Agent 分别处理邮件、搜索、总结和清理等工作。这种架构极大降低了单个模型的认知负担,通过上下文的隔离和分发,提升系统整体性能和稳定性。

推荐阅读:Anthropic 关于多 Agent 设计的另一篇博客

小提示:子 Agent 间通信建议使用统一的消息格式(如 JSON),并设计超时重试机制。中心 Agent 应维护任务状态图,确保子 Agent 不会因上下文隔离而产生死锁。

常见问题:子智能体架构会增加系统复杂度吗?
答:会,但收益更大。建议先从 2-3 个子 Agent 开始,逐步扩展。使用工作流引擎(如 LangGraph、Dify)可降低编排复杂度。

从理论到实践:上下文工程的价值

上下文工程不仅是理论进步,更在实践中带来可量化的性能提升。Anthropic 内部数据显示,无论是集成 Slack 还是 Asana 的工具,经过精心设计的版本(应用上下文工程思想),任务完成准确率显著高于人工常规编写的版本。

\

这些数据说明:AI 产品的性能上限不仅取决于模型能力,更取决于围绕模型构建的“信息整理系统”的精巧程度。有效的 AI 工程化方案能让产品显著拉开差距——无论是成本还是效果。

对工具返回格式的细微调整(如提供 concise 或 detailed 选项让 AI 自行选择),也能有效提升交互效率和任务成功率。

\

上下文工程将成为你新的护城河

上下文工程的兴起,为所有 AI 产品和创业者明确了新战略焦点:未来 AI 产品的核心竞争力,正从基础模型的原生能力转向开发者对大模型的架构能力。开发重心需要从单纯追求更好模型,转向设计更高效、符合产品定位的上下文工程化架构。

毕竟,大模型基模能力已接近边界,模型本身难以再卷出新高度。接下来竞争的将是:

  • 你的 AI 动态压缩机制设计得有多智能?
  • 你的 AI 持久化记忆架构得有多高效?
  • 你的 AI 子流程拆解得有多丝滑?

这些共同构成你的上下文管理架构,即使恶意用户也无法像提示词那样套取。它才是真正无法被轻易复制的核心竞争力。

同时,团队能力模型也需要调整。得益于 Vibe Coding 的崛起,产研团队的核心能力,需从提示词调优技巧,扩展到信息流管理、智能体协同设计和动态数据策展等系统工程能力。

来源:https://www.53ai.com/news/LargeLanguageModel/2025100970194.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。