游乐游手机版
首页/AI热点日报/热点详情

RAG扩展提示词的方法与技巧

类型:热点整理2026-07-14
RAG通过先检索相关文档再输入大模型,解决上下文窗口限制,使AI在理解业务背景后给出精准回答。测试人员需掌握检索工具、设计结构化提示词并裁剪关键内容,以提升测试效率与针对性。

掌握RAG检索增强生成技术,能够让你的测试工作更加高效且富有针对性。本文将从RAG的定义、核心工作流程、上下文窗口的概念,到具体的提示词设计方法、测试人员需掌握的关键技能,带你一步步理解如何借助RAG让AI真正“理解”你的业务场景。

什么是RAG?它是如何帮你提出更精准的问题?

RAG(Retrieval-Augmented Generation,检索增强生成)的核心思路非常直接:先检索资料,再生成回答。这就好比你在向一位助手咨询时,不会直接把问题抛过去,而是先把相关资料整理好,再请助手基于这些信息给出建议。

RAG的工作流程

  1. 接收你的提问:例如“我想测试删除预订功能的相关风险点有哪些。”
  2. 去文档库检索相关内容:系统会自动到你的项目文档库(包括需求文档、用户故事、接口说明等)中查找与提问最相关的片段。
  3. 筛选出最相关的几条结果:比如找到三条关于“删除预订”场景的用户故事。
  4. 将这些文档与你的问题一起发送给大模型:通过设计标准化的提示词(prompt),告知模型:“这是用户故事,这是用户问题,请基于这些信息推荐测试风险。”

这样一来,模型的回答就不再是“凭空编造”,而是在充分了解背景文档的前提下,给出更贴合实际、更有上下文依据的回答

小提示:在实际项目中,你可以使用向量数据库(如FAISS、Weaviate)对文档建立索引,实现高效的语义检索。同时要定期更新索引,确保文档内容与最新需求保持一致。

上下文窗口(context window)是什么?为什么它如此重要?

你可能会想:既然RAG效果这么好,为什么不把全部文档都发给大模型?——这是因为大模型有一个天生的限制:上下文窗口(context window)

简单理解上下文窗口

大模型就像一个一次只能阅读10页书的助手,你不能指望它一口气读完你500页的测试文档再回答问题。以Meta的LLaMA-2为例,它的默认上下文窗口为4096个token,大约相当于10页书的内容。这个“窗口”就是模型记忆的上限。超过这个数量,它要么把后面的信息截断,要么直接报错。

你可能会问:“10页不够用吗?” 对于一般搜索来说,确实够了。但在测试工作中,一个完整的需求分析文档可能就有几十页;代码分析、异常用例、接口定义等内容也会占用不少篇幅。更不用说需要做链路追踪或微服务依赖分析的情况了。

因此,在RAG中,我们必须精选关键内容来输入。就像考试前做笔记,你不会把整本书抄下来,只抄最关键的章节。同理,我们借助检索工具来判断哪些“资料片段”最相关,再将其送入模型。

小提示:不同模型的上下文窗口大小差异很大。LLaMA-2是4096 token,GPT-4 Turbo支持128K token,Claude 3支持200K token。使用前务必查阅模型文档,避免提示词超长被截断。

如何设计RAG提示词?来看一个示例

基于前面的逻辑,一个RAG提示词大致可以设计成如下结构:

你是一个负责测试设计的助手。你需要基于提供的用户故事,输出推荐的测试风险点。这是用户故事:{relevant_document}  用户的问题是:{user_input}  请列出推荐的测试风险点。

通过这样的提示词设计,模型不仅知道你要问什么,还能明确你在问谁、参考的是哪段文档、需要输出哪类内容。这比模糊地问“你觉得我该测什么”要靠谱得多。

测试人员需要掌握的关键知识点

如果你是测试工程师,尤其是希望借助AI辅助工作的中高级测试人员,建议你至少掌握以下几个关键点:

  1. 理解上下文窗口的限制:你要知道一个模型一次能处理多少内容,否则总会遇到“提示词超长”的问题。
  2. 掌握检索工具的使用:例如使用向量数据库(如FAISS、Weaviate)对文档进行索引,以便实现语义搜索。
  3. 能设计结构化的提示词:清晰地告诉模型它需要扮演什么角色、参考什么内容、输出什么格式。
  4. 知道如何进行“裁剪”:面对大量文档,你要学会判断哪些是关键信息,哪些可以忽略。
  5. 关注上下文窗口的演进趋势:一些新模型(如Claude 3、GPT-4 Turbo)已经支持几十万token,未来这项限制会逐步放宽,但不会彻底消失。

RAG结构图

常见问题与回答

Q1:如果我的文档量非常大(如上百页),RAG如何保证每次都检索到最相关的片段?

A: RAG的检索质量取决于文档切分策略和向量嵌入模型。建议将文档按语义段落切分(如每512 token一段),并为每段生成向量索引。检索时使用余弦相似度或欧氏距离进行排序。此外,可以设置检索数量(如top-k=3),确保只将最相关的片段送入大模型。如果发现检索效果不理想,可以尝试更换更强大的嵌入模型(如text-embedding-3-small)或调整切分大小。

Q2:上下文窗口大小有限,但我的提示词长度(包括检索文档)经常超出限制怎么办?

A: 有三种常见策略:① 精简检索结果:只保留与用户问题最相关的前2-3条文档片段,减少无用信息。② 对文档片段进行摘要:先让一个小模型(如LLaMA-3.1-8B)对长片段进行摘要,再送入大模型。③ 升级使用更大上下文窗口的模型(如GPT-4 Turbo 128K或Claude 3 200K)。注意:即使模型窗口很大,也不建议塞入过多无关内容,否则可能稀释答案质量。

Q3:我在测试工作中使用RAG,但模型给出的风险点仍然很泛化,怎么办?

A: 可能的原因有三个:① 检索到的文档本身不够具体——请确保你的需求文档、用户故事、测试案例库中包含详细的业务规则和边界条件。② 提示词没有明确输出格式——建议在提示词中增加示例,如“请输出风险点名称、风险描述、影响模块”等结构化要求。③ 模型幻觉——如果检索到的文档中确实没有关键信息,模型可能会“编造”通用建议。此时可以通过增加约束来缓解,例如“如果文档中找不到相关信息,请回答‘根据提供文档无法确定’”。

总结:RAG是一种高效使用AI的思维方式

RAG并不是高不可攀的黑科技,它更像是一种高效利用AI的思维方式。就像你面对一位助理,不会把所有问题一口气扔给对方,而是会先把资料准备好,再请对方给出建议。而理解上下文窗口的限制,就像了解这位助理一次只能看几页纸一样,是与模型协作的基本素养。从现在开始,尝试在你的测试工作流中引入RAG,你会发现AI给出的答案会变得更加精准、更有实际价值。

来源:https://www.53ai.com/news/RAG/2025060938962.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。