本教程将深入剖析AI Agent的真正竞争力所在。我们以夸克填报志愿Agent为案例，揭示：核心壁垒并非大模型本身，而是扎实、精细的上下文工程体系。通过理解大模型的根本缺陷、掌握上下文工程的实施层级，你将懂得如何构建可靠的AI应用。

一、大模型在业务场景中的三大根本缺陷

一个未经外部信息增强的大语言模型（LLM），其知识和行为完全依赖训练数据，这导致它在真实业务中会出现三个根本性的缺陷，进而造成答案不可靠。

• 缺陷一：知识截止日期：模型的知识截止于训练数据采集完成的时间。例如，高考政策和招生计划每年都在变，用去年的数据回答今年的问题，结果必然错误。
• 缺陷二：缺少私域和实时信息：模型无法访问企业内部数据（如历年录取分数线、最新招生简章）或实时变化的信息（如该省份今年的考生人数）。没有这些信息，模型只能瞎猜。
• 缺陷三：上下文窗口限制导致的遗忘：用户的对话和需求可能很长，模型存在上下文窗口限制，会遗忘早期的关键信息。比如用户问了三个关于不同专业的问题，模型在回答第四个问题时，可能就忘了第一个问题的前提条件。
  小提示：即使是人类，在不查阅资料、不记录对话上下文的情况下，也无法准确回答复杂的业务问题。因此，为大模型构建高质量的信息环境是必然选择。

二、什么是上下文工程？

上下文工程是一套系统性方法，用于解决大模型的上述缺陷。其核心定义是：

在用户与大模型交互的每一个环节，通过一系列精细化的技术和策略，为模型动态构建一个最准确、最相关、最完整的信息环境（即上下文），从而引导、约束并增强其行为，使其能够生成可信、可控且有价值的输出。

这个信息环境是一个立体的结构，至少需要管理以下七个核心维度的信息：

• 用户指令：用户当前提出的具体问题。
• 对话历史：用户与模型之前的交流内容。
• 系统Prompt：开发者设定的角色、行为和规则。
• 外部知识库：从数据库、文档中检索到的相关信息。
• 工具/函数调用：模型可以调用的外部API或计算工具。
• 输出格式约束：要求模型的答案必须符合某种格式（如JSON、表格）。
• 业务逻辑规则：必须遵守的业务流程和决策条件。

三、上下文工程的四个关键实施层级

理解了“为什么”和“是什么”后，我们来看“怎么做”。上下文工程的实施分为四个关键层级，每一个层级都是无法绕开的“苦活累活”。

1. 知识层：构建高质量的外部检索信息

这是整个体系的基石，也是最耗时的一环。目标是将原始、混乱的数据，转化为AI可以信赖的知识资产。

• 数据清洗与结构化：需要将PDF、网页、图片中的招生信息、专业介绍、录取分数线等数据，提取并整理成结构化的数据，如表格、JSON。
• 知识与规则的显式化：将业务专家的隐性知识（如“如果专业是临床医学，优先选择有附属医院的学校”）显式地编码为规则或知识点。
• 知识切片：将长文档按语义切分成合适的块（chunk），以便后续检索时能精准命中。
• 元数据标注：为每个知识块打上标签，如“省份”、“年份”、“专业类别”、“政策类型”，这能极大提升检索精度。
• 动态更新机制：建立知识库的持续更新流程，确保知识不过时。

小提示：知识层的质量直接决定了后续所有层级的输出上限。与其在检索和编排上花大力气，不如在知识层多下功夫。

2. 检索层：从海量知识中精准取水

拥有高质量的知识库后，下一步是根据用户问题，精准找到所需信息。这一步借鉴了传统搜索引擎的思路。

• 查询理解与重写：将用户口语化、模糊的问题（如“北大医学院好不好考？”）转化为系统能理解的精确查询（如“北京大学医学部 录取分数线 2024 省份:四川”）。
• 多路召回策略：不依赖单一检索方式。同时使用文本语义检索（向量搜索）和关键词检索，保证召回率。
• 混合排序与去重：对多个召回通道的结果进行排序、融合、去重，选出最相关的Top-K个知识块。
• 动态上下文构建：根据用户问题，动态决定从知识库中检索多少信息、从对话历史中提取多少信息。

常见问题：如何判断检索结果是否足够精准？
答案：需要建立评估体系。常用的方法包括：人工评估（让专家判断检索结果是否与问题相关）、自动化评估（使用如MRR、NDCG等指标，对比检索结果与标准答案的范围）。

3. 编排层：动态组织上下文

编排层负责将知识层、检索层以及所有七个维度的信息整合起来，形成最终的上下文，喂给大模型。

• 多维度上下文组合：将系统Prompt、对话历史、检索到的知识、工具调用结果等，按逻辑顺序拼接成一段完整的上下文。
• 指令与格式对齐：在上下文中明确告诉模型：“请基于以下资料回答用户问题。如果资料中没有，请说‘未知’。答案请分点列出。”这样能约束模型的输出行为。
• Token预算管理：大模型有上下文窗口限制。编排层需要智能剪裁，优先保留最重要的信息。例如，当对话历史很长时，可以压缩或丢弃不重要的部分，为新的知识检索腾出空间。
• 循环与迭代处理：对于复杂任务，编排层可能需要安排一次或多次模型调用。例如，先让模型判断用户意图，再根据意图检索不同知识库，最后再生成答案。

4. 评估与迭代层：没有度量，就没有优化

这是确保上下文工程闭环运行的关键。没有评估，就不知道系统哪里出了问题。

• 离线评估体系：构建一组标准问答对（Gold Dataset），定期运行评估。主要关注的指标包括：
  - 准确性（Faithfulness）：模型答案是否来自检索到的资料，有没有胡编乱造。
  - 相关性：检索到的资料是否与问题相关。
  - 完整性：模型答案是否完整覆盖了问题。
• 在线监控与反馈>：在生产环境中，监控用户的反馈（如点赞/点踩、用户重试次数）。建立主动的监控告警机制，当模型开始乱回答或不回答时，能及时发现。
• 基于反馈的迭代：将评估与监控的结果反馈给之前的三个层级，进行针对性优化。例如，发现某些问题检索不准，就调整检索策略；发现某些知识混乱，就重新清洗数据。

结论：护城河并非模型，而是围绕模型的系统工程

通过以上梳理，可以得出一个清晰的结论：

一个真正强大、可靠的AI应用，其核心竞争力并不在于它使用了哪个版本的大模型（因为各大大模型的能力在拉齐，调用API的价格也在下降）。真正的护城河，是你围绕模型所构建的这套复杂的、精密的、且与业务数据和流程深度绑定的上下文工程体系。夸克填报志愿Agent所展现出的专业性与可靠性，正是来源于它背后这些“苦活累活”的积累。这是一家家公司无法被轻易复制的核心资产。