告别模糊：Anthropic 上下文检索让RAG系统精准度大幅跃升

当您向自己的RAG（检索增强生成）系统提问时，是否曾遭遇过令人沮丧的模糊响应？例如，您询问“2023年第二季度的收入增长是多少？”，系统却回答“收入比上一季度增长了3%”，却未指明具体公司与季度。这并非系统逻辑缺陷，而是因为它丢失了关键的“上下文”信息。

如今，Anthropic 推出了一项创新方法——Contextual Retrieval（上下文检索），能够显著提升检索准确率。与现有技术相结合时，检索失败率最多可降低49%。本文将从问题根源、解决方案、实现细节、成本权衡到实战建议，为您逐步解析这项技术。

一、问题根源：标准RAG为何会丢失上下文？

典型RAG工作流程如下：

• 1. 将文档切分成多个 chunk（通常每块包含几百个token）
• 2. 为每个chunk生成 embeddings（向量化表示）
• 3. 将embeddings存入 vector database（向量数据库）
• 4. 收到查询时，找到语义最相似的chunk
• 5. 将这些chunk交给LLM生成答案

这一流程在应对笼统问题（如“机器学习最佳实践”）时表现尚可，但面对需要精确区分上下文的情景，其局限性便会暴露。假设您的文档包含多家公司的季度报告，切分后，“收入比上一季度增长了3%”这个chunk被孤立出来，失去了原本“这是Acme公司2023年Q2的表现”这一关键信息。Embedding模型仅感知到“收入增长”与财务相关，却无法确定其具体归属。