AI幻觉（AI Hallucination）长期困扰着众多开发者，如何有效解决？本文将分享一次通过三轮Prompt迭代，成功将RAG模型从“吹牛大王”转变为“谨言学者”的实战复盘，为您提供可复用的解决方案。
老板当时就急了：“什么？臆构数据？那开发人员用了虚假信息怎么办？大家还会信任这个系统吗？”
文章发布后，后台收到大量留言，许多朋友对“AI幻觉”问题感同身受，迫切希望了解具体解决方案。趁周末，我将这轮“调教”Prompt的三次完整迭代与思考过程系统整理。这绝非小事——当时它几乎关乎整个项目的生存。简言之，如果AI的回答连团队成员都无法信任，这个项目便失去了存在的价值。
第一轮：贪图省事，被平台默认Prompt误导，输出虚假信息
最初尝试时，直接沿用了Ragflow自带的默认系统提示词。心想平台推荐的内容总不会太差，就先跑起来看看效果。
简单测试了几轮对话，回答流畅、看似正常。但使用越久越不对劲——它总会输出知识库中根本不存在的“事实”。这种“一本正经胡说八道”立刻让人警觉。
我们的目标不是打造一个通用聊天机器人，而是一个面向专有知识领域的顾问。AI的角色必须清晰界定，不能模糊。于是，我开始动手优化提示词。
第二轮：给 Prompt 设定角色，戴上“紧箍咒”
这一步的核心是明确AI的角色与行为边界，防止它自由发挥。第二版Prompt写得非常严格，堪称“严苛”：
# 角色与目标
你是一个为 XXX 开发者服务的专业知识库助手。你的核心任务是基于下面提供的【知识库内容】，准确、客观地回答用户的问题。开发者用户高度依赖你提供信息的精确性和可溯源性，因此你的回答必须绝对忠实于提供的资料。
# 回答准则 (必须严格遵守)
1. **唯一信息来源：** 你的回答**必须**且**只能**基于【知识库内容】。严禁使用任何你预先知道的XXX知识、外部信息或进行任何形式的互联网搜索。
2. **直接性与相关性：** 仔细分析问题，并直接从【知识库内容】中查找最相关的段落或信息点来构建答案。优先直接引用或转述原文的关键信息。
3. **处理无关情况：** 如果经过仔细分析，【知识库内容】**完全不包含**与用户问题相关的任何信息，你**必须**且**只能**回答：“知识库中未找到您要的答案！”。不得给出任何其他解释或尝试回答。
4. **考虑聊天历史：** 在理解用户当前问题时，需结合之前的对话上下文。但回答依据仍**严格限制**在当前提供的【知识库内容】。
5. **保持专注：** 拒绝回答任何与 XXX 技术、提供的知识库内容或你设定的助手角色无关的问题。
# 知识库内容
--- 开始 ---
{knowledge}
--- 结束 ---
请严格遵循以上所有准则，根据【知识库内容】回答用户问题。这一版Prompt让AI确实老实了许多，回答严格遵循角色设定。本以为问题已解决，但更隐蔽、更棘手的问题随之浮现。
仔细比对输出结果与标准数据源，发现它总会胡编乱造知识库中没有的数据。而且不是一眼能看出的瞎编，而是七分真、三分假——这种“半真半假”最危险。
后来排查出原因：RAGFlow在知识库检索后，只找到了部分相关信息片段。为了将这些碎片组织成通顺回复，信息量不足，大模型为保证“逻辑自洽”，便自行“臆构”一部分数据，填补缺失环节。
这对使用者是致命的。用户通常是在不了解某个概念或方法时才会提问。看到AI的回答，在不熟悉的情况下很可能全盘接受。一旦虚假知识被采纳，出了问题，用户就会质疑整个系统的可信度。信任基石一旦被侵蚀，大家宁可查阅原始文档，也不会再用这个机器人。
第三轮：有问题就有答案，拥抱“诚实的不完美”
找到问题根源后，我想到两个解决方案：
- 使用Agent模式：额外增加一个AI充当“审核员”，将第一个AI生成的内容送回RAG重新检索，检查向量匹配度。技术上可行，也能有效抑制臆构，但调用链过长，直接导致响应时间变慢。考虑到并发时的用户体验，这个方案在上线前被否决。
- 巧用Prompt优化：根据反馈不断调整提示词，尽可能堵死所有可能导致“自由发挥”的漏洞。同时，在硬件允许范围内，选用更能遵循指令的大模型。
最终，从实际效果和多人并发时的响应时间控制出发，选择了第二条路线。
目标变得异常清晰：必须允许、甚至鼓励AI在信息不足时坦诚承认自己“无知”，而不是打肿脸充胖子。
于是，第三版——最终版Prompt诞生。核心是在第二版基础上，加入了一条堪称“反AI本能”的铁律：
# 角色与目标
你是一个为 XXX 开发者服务的专业知识库助手...
# 回答准则 (必须严格遵守)
...
3. **禁止臆测与扩展：**
* 如果【知识库内容】不包含足够信息来完整回答问题，**仅**根据已有的信息回答，并可以指出信息可能不完整（例如：“根据提供的资料，关于XX方面的信息如下，但未提及您问的YY细节”）。
* **绝对不允许**对信息进行任何形式的延伸、推理、猜测、补全或创造不存在的逻辑关系。**找到什么，就回答什么。**
* 如果多个检索到的段落直接回答了问题的不同方面，你可以将这些信息组合起来回答，但必须清晰说明信息来源，且禁止添加任何原文未明确提及的内容或逻辑。
* 如果发现知识库信息自相矛盾，请指出矛盾点，不要自行选择或调和。
...看到加粗那句了吗？“找到什么，就回答什么。” 这句话彻底改变了AI的行为模式——正式授权它可以给出“不完美”但绝对诚实的答案。
这次，AI终于学会了“老实做人”。当知识库信息不全时，它会老老实实告诉你：“根据资料，我只找到了这些，你要问的另外一部分，资料里没提。”
一个回答虽然可能不“完整”，但它100%忠于原文，100%值得信赖。至此，那个差点让项目翻车的“吹牛大王”，总算被成功驯服。
一点经验总结和建议
这次与AI幻觉斗智斗勇的经历，让我感受和之前搞定整个知识库项目时非常相似：
- 别指望AI有“自觉”，一定要写清晰的Prompt让它严格遵守：不要把AI当成一个能心领神会的“同事”。必须像制定法律条文一样，用极其明确、甚至有些冗长的规则去堵住所有它可能“犯错”的漏洞。
- 拥抱“不完美”，是追求“真实”的第一步：总希望AI无所不知、对答如流。但对于企业级应用，尤其在技术和生产领域，一个真实的“我不知道”，远比一个看似完美的虚假答案更有价值。
- Prompt调优的本质，就是跟大模型的“本能”对着干：大模型的出厂设置，就是为了生成更流畅、更连贯、更像“人话”的文本。而Prompt这根缰绳，就是要引导它走向符合业务逻辑的、哪怕有点“笨拙”的方向。
技术这东西，往往就是这样，刚刚从一个坑里爬出来，前面又是一个坑。但每次填坑的过程，都是对技术和业务理解的一次深化。