RAG 中检索失败的应对策略：工程化 Fallback 设计 大家好，今天我们来探讨一个在构建基于检索增强生成 (RAG) 系统的过程中经常会遇到的问题：当检索模块无法提供相关上下文时，大型语言模型 (LLM) 容易出现“幻觉”，也就是生成与实际情况不符的答案。我们将深入研究在工程层面如何设计有效的 Fallback 策略，以应对这种情况，提高 RAG 系统的鲁棒性和准确性。 问题背景：RAG 系统与检索失败 RAG 系统通过检索相关文档，并将检索到的上下文提供给 LLM，以引导其生成更准确、更有依据的答案。其核心流程大致如下： 用户提问: 用户提出一个问题。 检索模块: 系统使用问题作为查询，从知识库（例如向量数据库）中检索相关文档。 增强生成: LLM 接收问题和检索到的文档，生成最终答案。 然而，理想情况下，检索模块总是能返回与用户问题高度相关的文档。但在实际应用中，由于各种原因，检索可能会失败： 知识库覆盖不足: 知识库中根本不存在与问题相关的信息。 检索算法局限: 检索算法无法准确捕捉问题的意图，导致检索结果偏差。 问题表述模糊: 用户的问题过于宽泛或不清晰，导致检索结果噪声 …