论文地址：RAG综述

摘要

检索增强生成（RAG）通过将外部知识检索集成到生成流程中，增强了大语言模型（LLM）的能力，使其生成的回答更具依据性、自适应性与时效性。相较于仅依赖预训练数据的模型，尽管 RAG 能够提升事实准确性，但其实际效果在很大程度上取决于检索上下文的质量、相关性与可解释性，并且无法完全消除幻觉现象。近年来诸如 Fusion-in-Decoder、Atlas 以及 ColBERT-RAG 等架构在检索精度、可扩展性与跨领域泛化能力上展现出了显著提升。然而，一些关键挑战依然存在：包括可能覆盖模型推理过程的检索噪声、即便在高质量证据下仍会出现的幻觉问题、阻碍实时部署的延迟限制，以及脆弱的领域自适应能力。此外，尽管已存在部分指标与面向特定任务的基准，但针对检索–生成依据性与鲁棒性的统一评估框架仍然缺失，这使得公平对比与可复现的研究推进变得复杂。本文并非一份面面俱到的综述，而是针对 RAG 系统中的检索设计与架构演进提供聚焦式的分析视角。文章在梳理代表性架构的同时，批判性地分析了与检索–生成耦合方式、上下文过度依赖以及隐私保护计算相关的结构性局限。基于这些洞察，本文展望了未来研究方向，包括通过图 RAG（GraphRAG）实现结构化知识集成、基于智能体的模块化编排（Agentic RAG）、更完善的检索过滤机制，以及统一的评估方法。在 RAG 架构仍处于快速发展的标准化前期阶段，对其设计权衡形成更具分析依据的理解，对于推进可信且具备领域自适应能力的语言系统至关重要。

1. 引言

大语言模型（LLM）是在大规模数据集上训练的人工智能模型，在理解与生成人类语言方面表现卓越。它们能够补全句子、回答问题、翻译文本，甚至编写代码或创作故事。然而，这类模型的所有知识均来自训练阶段可用的数据，一旦训练完成，便无法获取新的或更新后的信息。因此，大语言模型存在多个长期存在的局限：其知识会随时间过时，频繁通过编造或无依据的内容产生幻觉，并且难以 recall 在训练语料中代表性不足的稀有或领域特定事实[1]–[3]。这些问题严重限制了模型在医疗、法律、商业等高风险领域的可靠性，而这些领域对准确性、时效性和可追溯性均有极高要求。

为解决这些缺陷，研究者提出在推理阶段为大语言模型接入可动态检索的外部知识源进行增强。这一方法被称为检索增强生成（RAG），其核心流程是：针对用户查询检索相关文档，并将其融入生成过程[4]。通过将回答建立在检索到的证据之上，RAG 被证实可以提升事实正确性，减少某些类型的参数化幻觉，同时无需重新训练大模型即可获取更新的知识[4]–[6]。因此，RAG 已成为开放域问答、事实验证等知识密集型任务中极具前景的范式。

尽管如此，当前的 RAG 实现仍存在显著局限。检索模块可能返回含噪声或相关性有限的文档，生成模块可能未充分利用或错误解读检索证据，检索与生成之间的对齐不稳定，且延迟通常会随检索质量提升而增加。此外，RAG 流程在跨领域迁移时效果往往不佳，需要昂贵的重新索引或微调才能维持性能。

尽管已有大量进展，RAG 相关研究仍存在明显的证据缺口。虽然已出现若干面向特定任务的指标与局部基准，但目前尚未形成被广泛认可的统一评估框架，用于衡量依据性质量、幻觉行为与检索效果，这使得不同架构之间难以公平比较。检索与生成之间的交互机制仍未被充分理解，尤其是模型在何时依赖参数记忆、何时依赖检索证据的问题。隐私与安全问题仍缺乏深入探究，尤其在涉及敏感或专有数据的领域。此外，现有多数 RAG 研究聚焦短文本上下文，对长上下文推理或多模态检索的研究较为有限。

这些未解决的挑战推动了对新兴范式的关注，例如GraphRAG（融入结构化知识以支持多跳推理）与Agentic RAG（引入模块化检索器、规划器与生成器以实现更自适应的工作流）。未来研究方向日益强调实时与时序感知检索、融合文本与图像/表格数据的多模态 RAG 系统、隐私保护型检索流程，以及用于评估事实性、相关性、鲁棒性与效率的统一评价方法。强化这些维度对于推动 RAG 迈向可信、领域自适应、可解释的人工智能系统，以支撑高风险应用至关重要。

尽管检索增强生成已受到广泛关注，现有综述研究大多采用宽泛的调研视角，侧重应用覆盖、基准对比或端到端流程描述。许多综述将检索方法与生成模型分开罗列，并未批判性地分析检索设计选择如何与架构结构交互，进而影响系统行为。因此，一系列关键问题仍缺乏充分分析，包括检索噪声如何在不同架构中传播、延迟与可解释性之间的权衡如何产生，以及为何即便提供高质量上下文证据，幻觉依然存在[3],[7],[8]。

本综述针对这些局限，明确聚焦于 RAG 系统中检索机制与架构演进之间的耦合关系。我们不将检索器与生成器视为松散连接的组件，而是将其看作相互依赖的设计要素，其交互共同决定依据保真度、可扩展性与系统鲁棒性。本文的主要贡献在于对 RAG 中的检索策略与架构演进进行批判性整合，突出反复出现的权衡、结构性瓶颈以及在先前综述中未被充分探讨的新兴设计原则。通过整合代表性 RAG 架构的相关洞察，本综述旨在为未来研究与系统设计提供更清晰的分析基础。因此，本文并不试图对所有 RAG 技术进行全面调研，而是聚焦于分析检索设计与架构选择如何共同塑造系统行为。由于模块化、基于图与智能体式 RAG 的近期进展仍处于标准化前期阶段，本文特意纳入预印本文献，以捕捉尚未被同行评审综述整合的持续架构实验。通过这种方式缩小范围，本综述优先保证概念清晰性与批判性洞察，而非穷尽式覆盖。

一个 RAG 系统通过检索、上下文增强与生成三者的交互运行，根据架构设计选择的不同，三者可实现不同程度的耦合。检索组件负责从外部语料中找出与用户查询相关的文档或片段，其效果直接决定下游性能。检索错误（如含噪声、冗余或相关性有限的片段）会沿流程传播，削弱事实依据性。随后，检索到的证据在增强阶段与用户查询融合，构建更丰富的上下文输入。尽管这一过程能增强依据性，但结构混乱或过长的增强上下文可能使生成器过载，并放大检索噪声，这也推动了自适应策略的发展，如上下文压缩、相关性打分与结构化知识融合。最后，生成组件基于增强后的输入，利用大语言模型生成回答。即便能够访问外部证据，生成器仍可能忽略检索内容或过度依赖参数记忆，导致即便存在正确信息仍出现幻觉。这些相互依赖的阶段表明：无论采用紧耦合还是松耦合，检索设计与架构集成都是 RAG 系统可靠性、可扩展性与依据保真度的核心。

本文结构如下：第 2 节在统一概念框架下概述 RAG 系统的检索机制与架构组件，分析其交互关系。第 3 节考察 RAG 架构的演进，梳理代表性模型的关键设计转变与权衡。第 4 节讨论限制实际部署的持续性技术、架构与伦理挑战。最后，第 5 节总结核心发现，指出现存证据缺口，并展望检索增强生成的未来研究方向。

---

简要总结

1. LLM 的痛点
   知识过时、易产生幻觉、记不住领域小众知识，无法用于医疗、法律等高风险场景。

2. RAG 的价值
   通过外部检索动态补充知识，减少幻觉、提升事实正确性，且不用重训模型。

3. 当前 RAG 仍有很多问题
   检索带噪声、检索与生成对齐差、跨领域难迁移、延迟高、缺少统一评估标准、隐私研究不足、长文本/多模态研究少。

4. 新方向
   GraphRAG（多跳推理）、Agentic RAG（自适应流程）、实时检索、多模态、隐私保护、统一评测。

5. 本文与其他综述的区别
   不做大而全的罗列，而是重点分析“检索”和“架构”如何耦合、互相影响，关注噪声传播、延迟权衡、幻觉残留等深层问题。

6. RAG 基本流程
   检索 → 上下文增强 → 生成；三者耦合方式直接决定系统可靠性。

7. 全文结构预告
   架构概述 → 架构演进 → 现实挑战 → 总结与未来方向。

2. 检索增强生成（RAG）的核心组件

检索增强生成（RAG）系统建立在检索机制与生成模型的交互之上，通过动态引入外部知识，实现有依据、可靠的文本生成。RAG 架构并非简单的线性流水线，而是涉及检索质量、上下文构建与生成式推理之间的相互作用，其耦合程度随架构设计选择而变化。这些组件共同决定系统性能，影响事实依据性、可解释性、可扩展性与延迟。因此，本节将介绍 RAG 的核心组件，并重点分析不同检索策略与生成器设计如何影响上述权衡关系。

图1展示了 RAG 的整体架构，突出用户查询、文档检索、上下文增强与生成过程之间的交互。该图作为本节的概念基础，强调检索质量与文本块（chunk）选择会直接影响生成器的推理行为，而非仅仅是被动的预处理步骤。

在 RAG 系统中，检索器承担核心作用，负责从大规模文档库中筛选相关信息。检索质量通常是下游精度的首要决定因素，因为这一阶段引入的错误会在整个生成流程中传播。为应对多样化的查询类型与领域需求，目前已发展出多种检索技术，包括传统稀疏检索方法、稠密神经检索器，以及结合两者的混合检索方案。

2.1. RAG 中的检索器

稀疏检索方法基于词频与词汇重合度，将查询与文档表示为高维向量。这类方法计算高效、可解释性强，适合对速度与透明度要求高的场景。然而，其依赖精确词匹配的特性，使其难以捕捉语义相似性、转述含义与上下文意义。尽管存在这些局限，稀疏检索仍因计算成本低、在结构化或明确查询上表现稳定，成为许多 RAG 流程的基础组件。

• TF-IDF 通过比较词在文档内的频率与在整个语料库中的频率，衡量词语重要性，能有效突出信息词并弱化通用词汇。其核心局限是依赖精确词汇匹配，对语义丰富或转述式查询效果较差。
• BM25 在 TF-IDF 基础上引入词频饱和、文档长度归一化与更精细的逆文档频率加权，提升了排序稳定性，成为现代搜索引擎的强基线方法。但 BM25 仍是纯词法方法，无法捕捉深层语义关系。

稀疏检索虽高效，但存在词汇不匹配问题：相关文档可能与查询没有显性词汇重合。稠密检索方法（如 DPR）通过神经编码器将查询与文档映射到连续向量空间，解决了这一问题。稠密检索采用双编码器结构，分别对查询和文档做嵌入，支持在大规模库上高效近似近邻搜索。由于捕捉语义相似性而非表层词汇重合，稠密检索在开放域问答中表现尤其突出。但其缺点是计算成本更高、需要大规模向量索引，且对领域偏移敏感。

为在效率与语义保真度之间取得平衡，混合检索方法结合稀疏与稠密信号：稀疏方法实现精确关键词匹配，稠密检索通过神经嵌入提供语义理解。混合系统通常能获得更高的召回率与准确率，尤其在复杂查询场景（开放域问答、企业搜索）中表现更佳。但性能提升的代价是系统复杂度上升、重排序带来延迟增加，以及参数调优难度加大。

表1总结了 RAG 检索设计的内在权衡：

• 稀疏方法：高效、可解释，但语义泛化弱
• 稠密方法：语义效果好、召回率高，但计算成本高、透明度低
• 混合方法：兼顾词法精度与语义匹配，但复杂度与延迟更高

常见混合策略包括分数融合（加权合并稀疏与稠密检索的相关性得分）与级联检索（先用轻量稀疏检索初选候选，再用稠密模型重排）。SPLADE、uniCOIL 等方法通过神经网络学习稀疏表示，进一步缩小稀疏与稠密检索之间的差距。在 MS MARCO 等基准上，混合系统通常优于单一方法，但计算开销与调参复杂度仍是开放挑战。

2.2. RAG 中的生成器

在 RAG 中，生成器基于检索证据生成连贯、上下文相关的回复。系统将原始查询与筛选后的文档拼接为增强提示（prompt），输入大语言模型以生成最终输出。根据任务需求，生成器可以结合参数化知识补充检索证据，或严格限制在给定上下文内生成。

大多数 RAG 生成器基于 Transformer 架构，因其能建模长程依赖与上下文关系而成为主流。典型模型包括 GPT、LLaMA、Gemini 等，在各类任务中表现出色。

• T5：采用编码器–解码器架构，将所有 NLP 任务统一为文本到文本转换，适合多任务 RAG 场景。
• BART：结合双向编码与自回归解码，擅长处理含噪声、相关性有限的检索上下文，提升多文档融合时的事实一致性。
• LLaMA：开源解码器-only 模型，参数量更小、效率高，适合算力受限的 RAG 部署。
• GPT：大规模自监督训练的解码器-only 模型，生成能力强，广泛应用于医疗、金融、客服等领域的 RAG 系统。

---

简要总结

1. RAG 不是简单流水线
   检索、上下文、生成三者强耦合，检索质量直接决定最终效果与幻觉程度。

2. 检索器（核心决定精度）

   • 稀疏检索（TF-IDF / BM25）：快、可解释、便宜，但只能匹配字面，不懂语义。
   • 稠密检索（DPR 等）：语义强、适合开放问答，但计算重、对领域偏移敏感。
   • 混合检索：兼顾精度与语义，效果最好，但更复杂、延迟更高。

3. 生成器（负责输出质量）
   主流基于 Transformer：

   • T5：多任务通用
   • BART：抗噪声、适合多文档
   • LLaMA：轻量开源
   • GPT：生成能力强，产业界常用

4. 核心结论
   检索方式不是优化细节，而是架构级决策，直接影响 RAG 能不能落地、可扩展、可信赖。

3. 检索增强生成（RAG）架构的演进

检索增强生成（RAG）最初被提出，是为了通过结合基于检索的事实依据与大语言模型的生成能力，解决纯参数化语言模型的局限性。原始的 RAG 框架包含两个紧密集成的组件：一个从外部知识库中选取 top-k 相关文档的检索器，以及一个同时依据用户查询和检索文档生成答案的生成器。这种集成方式让语言模型能够动态调用外部知识，在知识密集型任务中显著提升事实准确性与灵活性。

Meta AI 提出的经典 RAG 架构将稠密检索与端到端大模型训练相结合，以实现基于知识的生成。该工作引入了两种解码策略：RAG Sequence 选取单篇检索文档用于生成；RAG Token 在 token 级别对多篇文档进行边缘化处理，从而更细粒度地利用外部证据。尽管这一设计是重要突破，但早期 RAG 模型存在文档融合能力弱、检索片段之间相互干扰的问题，导致随着检索文档数量增加，效果反而受限。

后续架构通过改进文档融合与检索–生成对齐来解决这些缺陷。Fusion-in-Decoder (FiD) 先对每篇检索文档独立编码，再在解码器中融合，减少片段间干扰并提升答案精度。但随着检索文档数量增加，其内存与计算复杂度呈平方级上升。为缓解这一问题，研究者提出 FiD-Light，在解码前压缩编码器表示，大幅降低推理延迟，同时保持知识密集型任务上的竞争力。这类工作表明：文档融合质量与效率可以通过架构优化共同提升，而非单纯增加检索数量。

REALM 使用掩码语言建模与对比目标联合训练检索器和生成器，在语言建模过程中实现可学习的检索，进一步推进了检索增强学习。尽管效果显著，但 REALM 存在训练不稳定与计算开销大的问题。RETRO 则实现了另一重要转变：将检索视为可在训练与推理阶段同时访问的外部存储器，通过解码器交叉注意力引入相似文本块，让较小模型也能实现长上下文生成，但其代价是需要超大规模检索语料库。

近年来的 RAG 架构更强调模块化与可扩展性。Atlas 使用冻结的 T5 生成器搭配训练良好的检索器，在小样本与多任务学习中实现了出色效果，降低了训练复杂度，但也限制了生成器的自适应能力。基于 ColBERT 的 RAG 系统在检索器内部实现细粒度的 token 级交互，将检索与生成解耦，构建高效、可扩展的检索流程，可灵活接入模块化 RAG 系统。最新的 ColBERTv2 通过残差压缩与去噪监督实现轻量级延迟交互，大幅降低存储开销，同时在域内与域外基准上保持甚至提升检索质量，解决了早期 ColBERT 索引成本过高的问题，让 token 级检索更适合大规模真实场景部署。

这些模型共同体现出一个趋势：RAG 从单一端到端流水线，转向更模块化、以检索为中心的架构，更适合法律、医疗、教育等真实领域落地。

为了结构化呈现这一发展过程，RAG 架构的演进可大致分为三个阶段：基础 RAG（Naive RAG）、高级 RAG（Advanced RAG）、模块化 RAG（Modular RAG）。每一阶段都体现出架构复杂度提升、检索优化更强、对任务适配性更高的特点。图2展示了 RAG 从早期朴素设计到高级与模块化系统的整体演进，突出了向可扩展性、灵活性与更紧密检索–生成对齐的逐步转变。

本文选取的代表性架构（RAG、FiD、REALM、RETRO、Atlas、ColBERT）均是演进中的关键里程碑。每个模型都针对前代的局限提出了独特的架构改进，尤其在文档融合、检索–生成对齐与可扩展性方面。这些架构共同反映了 RAG 研究的主流趋势：从早期端到端流水线，走向更模块化、以检索为中心的设计。

表2总结了代表性 RAG 架构的关键特点、优势与局限。早期模型将检索与生成紧耦合，支持端到端学习，但文档融合弱、可扩展性有限。FiD、REALM 等通过更好的融合与联合训练提升了检索利用率，但计算成本与训练复杂度更高。RETRO 证明检索可作为外部存储器支持长上下文生成，将可扩展性瓶颈从模型大小转移到检索基础设施。Atlas、ColBERT 等近期设计则通过解耦检索与生成实现模块化，支持灵活替换组件、提升可扩展性与领域定制能力。

这一架构演进反映了文本生成系统中对“检索”定位的整体范式转变：早期 RAG 仅将检索视为静态上下文注入，认为更好的文档自然带来更好输出；而高级与模块化架构将检索视为动态、任务相关的过程，必须与生成推理紧密结合。这种转变支持自适应检索策略、更强的依据性控制，以及在领域偏移下的更高鲁棒性，使模块化 RAG 成为迈向可扩展、自适应、可信的知识增强语言系统的关键一步。

---

3.1. RAG 的应用

RAG 的架构进步直接决定了其在各应用领域的表现。随着 RAG 向模块化、感知检索的方向发展，其越来越能处理领域特定约束、异构知识结构与真实部署挑战。本节介绍四个代表性应用领域。

3.1.1. 开放域问答（ODQA）

RAG 在开放域问答中表现突出，用户可提出跨领域问题，无预先限定知识范围。传统大模型在参数记忆缺少相关信息时容易出现幻觉，而 RAG 通过在生成前检索支撑文档缓解了这一问题。

RAG 在 ODQA 中的有效性主要来自混合检索（稠密检索 DPR + 词法检索 BM25），平衡召回率与精度，实现更可靠的证据依据。在 Natural Questions、TriviaQA 等基准上，检索增强方法 consistently 比纯生成模型具有更高事实一致性。

尽管效果提升，ODQA 系统仍受检索脆弱性影响：检索结果常包含部分相关或重叠片段，导致生成器输出模糊或冗余。随着数据集规模与复杂度提升，优化检索排序、上下文过滤、片段选择愈发重要。分层检索与多跳推理是进一步增强 ODQA 性能的重要方向。

3.1.2. 客户支持与虚拟助手

客户支持与虚拟助手系统需要及时、上下文感知、准确的回复，且常基于快速更新的产品文档或政策指南。RAG 允许虚拟助手从更新后的信息源动态检索内容，减少对静态规则系统的依赖，帮助企业在扩大支持规模的同时不牺牲准确性。

但领域偏移仍是重要挑战。当文档频繁更新时，检索流水线必须持续重新索引与验证，避免过时或矛盾信息。缺乏严格版本控制会导致 RAG 检索到失效内容，造成用户困惑。引入时效性感知检索与元数据排序策略，可优先推送权威且最新的来源。

3.1.3. 内容生成

RAG 通过将生成内容锚定在外部可验证来源中，显著增强内容生成质量，尤其适合新闻、学术写作、报告摘要等对事实性要求高的领域。RAG 不再仅依赖可能过时或不完整的参数记忆，而是在生成前检索相关证据，减少幻觉并提升可信度。FiD、Atlas 等架构进一步支持长上下文与多文档集成，可生成博客、白皮书、科研综述等详细内容并保留可追溯来源。

但过度依赖检索会限制创造性，导致内容过于事实化、重复。如何平衡事实依据与创作灵活性仍是开放设计难题。此外，即使有检索支持，生成器仍可能将检索内容与参数知识无控混合，引用检索上下文未明确出现的内容。开发能够量化生成内容受检索支撑程度的依据性评分指标，可提升内容密集型应用的可靠性。

3.1.4. 知识密集型任务

RAG 越来越多地用于法律文档分析、生物医学信息检索、金融报告摘要、教育辅导等知识密集型任务。这些领域要求高精度与最新知识，而 RAG 可通过结构化检索流程满足需求。

例如在生物医学领域，RAG 可检索最新科研文章支持诊断推理与文献综述；在法律领域，RAG 辅助案例摘要与判例检索，但必须满足极高精度与风险约束；在金融分析中，RAG 可整合市场报告与监管文件，提升决策透明度与可解释性。模块化 RAG 支持领域特定微调而无需全模型重训，提升性能与部署效率。

不过，这些领域的效果高度依赖底层知识库的质量与结构。专业语料常包含表格、PDF、半结构化文档，使检索复杂化。因此，能够同时处理文本、表格、图像、图表的多模态 RAG 对高风险知识密集型应用至关重要。

尽管架构进步扩展了 RAG 的适用范围，也暴露出检索鲁棒性、模型对齐、部署约束等新局限。下一节将系统分析这些挑战，展示技术、模型与伦理因素如何持续影响 RAG 系统的实际效果。

---

简要总结

1. RAG 架构三阶段演进

   • Naive RAG：基础检索+生成，简单但文档融合差、易干扰。
   • Advanced RAG（FiD、REALM、RETRO）：优化文档融合、联合训练、长上下文、外部记忆。
   • Modular RAG（Atlas、ColBERT）：检索与生成解耦，模块化、可扩展、易落地。

2. 核心演进趋势
   从紧耦合端到端，走向模块化、检索中心化、低延迟、可工业部署。

3. 关键架构对比

   • FiD：文档独立编码再融合，精度高但复杂度高。
   • REALM：检索生成联合训练，效果强但难训练。
   • RETRO：把检索当外部记忆，支持长文本。
   • ColBERT：细粒度token检索，高效可扩展。

4. 四大典型应用

   • 开放域问答：减少幻觉，需混合检索与多跳推理。
   • 客服助手：需实时更新、时效性感知检索。
   • 内容生成：事实性更强，但要平衡创造性。
   • 专业领域（医疗/法律/金融）：要求极高精度，急需多模态 RAG。

5. 整体结论
   架构越先进，RAG 越能落地，但也带来检索可靠性、延迟、对齐难度等新挑战。

4. 检索增强生成（RAG）面临的挑战

检索增强生成（RAG）系统在输出质量、可靠性与实际可用性方面面临一系列挑战。这些挑战大致可分为三类：与检索和上下文构建相关的技术问题、检索与生成之间的模型级对齐问题，以及与现实部署相关的伦理和业务风险。

4.1. 检索与上下文构建中的技术挑战

RAG 系统最主要的技术挑战之一在于检索质量。不准确或匹配度差的检索结果常会导致幻觉与回答不完整。RAG 的效果与检索信息的相关性、粒度和结构特性密切相关。含噪声的检索结果、表格和碎片化 PDF 等半结构化文档，以及粗粒度与细粒度文本切块之间的平衡难题，都会使检索过程复杂化，并显著降低回答质量。

冗余与文档冲突是另一大技术难点。检索得到的文档往往包含重叠或重复内容，这会引入噪声、增加计算开销，却未必能提升回答精度。这类冗余可能让生成器不堪重负，导致输出冗长、重复或逻辑混乱。若检索到的信息源存在不一致或相互矛盾，会进一步加大生成难度，并降低事实一致性。

延迟与计算开销同样是显著障碍。深度检索流程、交叉编码器重排序、向量相似度搜索以及大规模增强提示词的构建，都会增加处理时间。因此，RAG 系统必须在检索精度与响应速度之间做出艰难权衡，这限制了它在实时或高交互性场景中的适用性。

领域自适应仍是尚未解决的技术短板。在一个领域上训练的 RAG 模型迁移到另一领域时，性能常会明显下降，原因在于术语、推理模式与上下文假设存在差异。这种脆弱性使得单一 RAG 架构难以直接部署在多个专业或学术领域，除非进行大量重训练、重新索引或语料结构重构。

4.2. 模型层面与检索–生成对齐问题

即便检索质量很高，RAG 系统依然无法完全避免幻觉。生成器可能仍会过度依赖参数化记忆，或错误解读检索片段，将外部证据与内部先验不当混合，从而生成无依据或虚构的内容。这一问题在各个应用领域都普遍存在，在医疗、法律、金融等高风险场景中尤为关键，因为微小的错误都可能造成严重后果。

另一个相关的模型层面局限是检索器与生成器之间的对齐问题。已有研究发现大量失效案例：大模型要么完全忽略检索内容，要么对检索信号分配不当的权重，转而依赖内部知识表示。这种对齐失效削弱了检索增强的效果，降低了事实依据性，也暴露出模型在生成过程中对检索证据的整合与优先级处理存在根本性缺陷。

4.3. 伦理与业务风险

除技术与模型层面挑战外，RAG 系统还带来了显著的伦理与业务风险。检索机制可能暴露敏感、专有或机密信息，尤其在私有或半私有知识库上运行时更为突出。此外，攻击者可能向检索语料中注入投毒或误导性内容，从而破坏系统可靠性与可信度。

检索文档中的偏见是另一大隐患。从有偏或不均衡语料库中检索会放大既有偏见，导致生成结果同样带有偏见。这些风险表明，需要更强的保障机制，包括公平感知的检索打分、稳健的数据治理实践以及隐私保护型 RAG 架构。解决这些伦理与业务问题，对实现负责任、可信赖的 RAG 部署至关重要。

---

简要总结

1. 技术挑战

   • 检索质量不稳定：噪声、半结构化数据、切块策略难平衡。
   • 文档冗余/冲突，导致生成混乱。
   • 检索计算开销大、延迟高，难以实时使用。
   • 跨领域效果差，迁移困难。

2. 检索–生成对齐问题

   • 即使检索准确，模型仍可能无视证据、继续幻觉。
   • 生成器过度依赖自身记忆，对检索内容权重分配不当。
   • 检索与生成没有真正“协同”，只是简单拼接。

3. 伦理与安全风险

   • 可能泄露隐私、商业机密。
   • 语料易被投毒、攻击。
   • 检索会放大数据偏见，导致输出歧视性内容。

5. 结论与研究缺口

5.1 核心发现总结

本文围绕检索设计与架构演进之间的相互作用对 RAG 展开综述。分析表明，想要提升事实依据性、鲁棒性和实际落地效果，不能只靠提高检索精度，更关键在于检索机制如何与生成架构深度集成。

从朴素的检索–生成流水线，到高级 RAG 再到模块化 RAG 的发展，整体体现出三大趋势：检索与生成耦合更紧密、可扩展性更强、跨领域适应能力更好。包括混合检索、FiD、Atlas、ColBERT-RAG 以及模块化检索–生成结构在内的一系列架构创新说明：架构设计在缓解幻觉、控制延迟、支持知识密集型任务的领域自适应推理方面起到核心作用。

5.2 研究缺口

尽管已有诸多进展，若干关键研究缺口仍制约着 RAG 在真实场景中的可靠性与效果：

• 检索噪声、即便上下文正确仍会出现的幻觉、计算延迟、检索文档冗余等问题仍是主要瓶颈；
• 领域自适应依然困难，模型在领域术语、知识结构、推理模式变化时泛化能力显著下降；
• 隐私、安全与偏见问题进一步增加了部署难度，检索可能泄露敏感信息或放大语料中的偏见。

这些局限凸显了建立更完善评估框架的必要性，尤其是在高风险场景下，需要更强调透明度、公平性、依据有效性和鲁棒性。

众多缺口背后的一个核心问题是：目前缺少面向 RAG 系统的通用统一评估框架。现有评测大多只关注孤立指标（如答案准确率、检索召回率），很少关注生成内容是否真正基于检索证据、系统在噪声检索下的表现，以及语料偏见如何跨领域影响输出。

如果没有能同时评估依据有效性、鲁棒性和公平性的综合评测方法，就难以合理比较不同 RAG 架构，也无法可靠评估其在真实场景中的可用性。因此，构建这类评估框架是让 RAG 架构进步真正转化为可信、负责任落地的关键。

5.3 未来研究方向

未来可重点关注以下方向以解决现有挑战：

• 实时检索 pipeline：支持对新闻、科研文献、政策文档等持续更新内容的索引，缓解知识过时问题；
• 多模态 RAG（MRAG）：支持对图像、视频、代码、表格数据的检索与生成，拓展在诊断、监控、科学建模等领域的应用；
• 隐私保护型检索：包括联邦检索、加密索引、权限管控流程，对高敏感领域部署至关重要；
• 图增强 RAG（GraphRAG）：借助知识图谱实现结构化推理、多跳证据追踪与更强可解释性；
• 智能体 RAG（Agentic RAG）：由检索器、规划器、评估器、推理智能体等模块化组件协同工作，形成更灵活、可解释、可扩展的系统，尤其适合企业级与高可信要求场景。

这种转变反映出一个大趋势：RAG 不再被看作单一模型，而是由多个组件协同调度的生态系统。

总而言之，尽管 RAG 在增强大模型依据性、提升事实准确性方面价值显著，但在检索可靠性、检索–生成对齐、领域泛化、延迟、偏见与安全等方面仍存在突出挑战。本文通过批判性梳理检索设计与架构演进，明确了关键局限与研究机会，为理解 RAG 系统、指导未来研发提供了分析框架与可行方向。

---

简要总结

1. 核心结论
   RAG 的效果不只取决于检索准不准，更取决于检索和生成怎么架构、怎么耦合。
   架构演进方向：紧耦合 → 更可扩展 → 模块化 → 更适合真实场景。

2. 现存研究缺口

   • 幻觉、噪声、冗余、延迟、领域迁移难依然存在；
   • 最关键缺口：没有统一的 RAG 专用评测体系；
   • 缺少对“依据性、鲁棒性、公平性”的综合评估。

3. 未来重点方向

   • 实时 RAG
   • 多模态 RAG
   • 隐私安全 RAG
   • GraphRAG（多跳推理）
   • Agentic RAG（智能体化、模块化协同）

4. 整体定位
   这篇综述不做全面罗列，而是从架构与检索耦合的角度切入，为后续 RAG 研究提供理论视角和落地思路。