一、为什么需要RAG模式

普通的 LLM（如你输入一句话，模型直接“凭记忆”生成回答）这些记忆是模型在训练期间学到的，可能过时、也可能不包含你所关心的特定资料。

而 RAG：当你提问时，模型先检索（retrieve）与你问题相关、外部的资料（比如公司文档、网页、数据库） → 然后再基于这些检索到的资料 生成（generate）回答。这就类似人类在回答问题前，会“先查一下资料”再作答。

这样做的好处：一方面能用到最新、专业、特定领域的资料；另一方面让回答更“脚踏实地”、引用来源，从而减少凭空“胡扯”（即所谓的“幻觉”）的情况。

简单比喻：你问一个课题，普通模型像“凭脑子回答”，RAG 则是“先翻书查资料→再回答”。例如GPT5的基础知识更新到2024年6月，之后的信息需要通过联网搜索查询资料再作答。

二、RAG模式介绍

RAG（Retrieval-Augmented Generation）是一种设计模式／技术流程,在 LLM 生成答案之前，先从一个或多个外部知识源（如文档库、数据库、知识图谱）检索相关内容，再将这些内容作为上下文补充给 LLM 一起生成答案。这样模型就不只靠训练时“记住”的知识，而是能实时“查”到最新或专有的资料。

RAG的优点：模型训练数据有时“滞后”、或不专门覆盖特定组织／领域，而 RAG 可以补充：通过外部资料，模型能快速访问最新/专属内容。减少重新训练/大规模微调的需求：当资料更新时，只需更新检索库，不一定要重新训练整个模型。

RAG的挑战：尽管强大，RAG也面临诸多挑战。主要问题是答案所需信息可能分散在多个块或文档中，检索器难以获取完整上下文，导致答案不准确或不完整。系统效果高度依赖分块和检索质量，若检索到无关块则会引入噪声，干扰LLM。如何有效整合可能矛盾的信息也是难题。此外，RAG需将整个知识库预处理并存入专用数据库(如向量或图数据库)，这是一项庞大工程，且需定期同步以保持最新，尤其是企业动态资料。整个流程会影响性能，增加延迟、运维成本和最终提示的Token 数量。

三、RAG的经典工作流程

下面描述一个比较完整的 RAG 系统流程，整个流程粗略可以分成检索阶段和生成阶段，为了方便理解这里细分为若干阶段：

1. 数据准备／索引阶段

• 收集你系统要用的文档／知识源（可能是公司文档、网页、数据库、知识图谱等）
• 文档分块（chunking）：将大文档拆成适度长度的文本块。
• 对每个块生成 embeddings。
• 将这些 embeddings 存入向量数据库（可能还同时保存文本块的原文、来源 ID、元数据等）。
• （可选）建立检索索引或图谱索引。

2. 用户查询阶段

• 用户提交提问。
• 系统将用户问题也转成 embedding（或向量表示）。
• 检索器（retriever）在向量数据库中找到与该查询向量最相似／距离最近的 k 个文档块（或符合阈值的块）。

3. 增强上下文阶段

• 把用户提问 + 检索得到的文档块（以及它们的来源或摘要）组合起来，构造成一个 prompt／上下文输入给 LLM 。
• 可能还会做重排序（把最相关块放前面）、摘要、过滤冗余、控制上下文长度等。

4. 回答生成阶段

• 将构造好的上下文交给 LLM，它基于这些资料生成用户所需回答。
• 如果系统设计得好，还可能让模型返回“资料出处”或引用，从而增强可信度。

5.（可选）反馈／迭代阶段

• 根据回答质量、用户反馈、检索效果，对文档库／检索器／重排序策略进行优化。
• 在一些系统中，可能做 multi-hop （多跳）检索：模型回答过程中发现还需要更多资料，就再次检索，直到满足条件。

四、RAG的关键技术

1. 文档分块（Document Chunking）

• 原理：分块是将大文档拆分为更小、更易处理的片段。当你有大量文档（长篇 PDF、报告、网页等），直接用整篇文档检索效率低、也不利于精准匹配。于是先把文档切成更小的“块”（chunk）——比如按段落、按页、或按逻辑单位。
• 目的：RAG 系统无法将整本大文档输入 LLM，而是处理这些小块。分块策略使每个块长度适中、语义较完整、便于以“此块是否相关”作检索。
• 解释：就像你把一本书分成很多小章节，检索时先定位哪个小章节可能有答案，再进去看。

2. 嵌入 (Embeddings)

• 介绍：将文本（如一句话、一段话、一块文档）转成一个向量（通常是高维实数向量），使得语义相近的文本在向量空间中距离更近。在 RAG 把你切好的文档块用某个模型（例如 Sentence-Transformer 类）生成 embeddings，然后存进向量数据库。查询时也将用户问题转成向量，再找到“最近”的文档块。
• 原理：在 LLM 语境下，嵌入是文本(如词语、短语或文档)的数值表示，通常为向量(数字列表)。其核心思想是用数学空间表达语义和文本间的关系。含义相近的词或短语，其嵌入在向量空间中距离更近。例如，“cat”可能是(2,3)，而“kitten”则在 (2.1,3.1)附近;“car”则远在(8,1)。实际嵌入空间维度远高于二维，能细致刻画语言的语义。
• 解释：就像把每段话变成“坐标点”，用户提问也变成一个点，然后看哪些资料的点离它最近。

3. 向量数据库（Vector Database）

• 介绍：向量数据库专为高效存储和查询嵌入设计。文档分块并转为嵌入后，这些高维向量存入向量数据库。传统关键词检索只能找到包含查询词的文档，无法理解语义。例如，“furry feline companion”与“cat”无法关联。向量数据库则专注于语义搜索，将文本以数值向量存储，能根据概念意义检索结果。用户查询也转为向量，数据库用高效算法(如 HNSW)在海量向量中快速查找“最接近”的含义。
• 原理：用于存储上述的 embeddings，并支持“最近邻检索”（Nearest Neighbour Search）——用户问题向量出发，找到在向量空间里“最近”的文档块。主流实现包括Pinecone、Weaviate、ChromaDB、Milvus、Qdrant等，甚至Redis、Elasticsearch、Postgres(pgvector扩展)也可支持向量检索。底层检索机制常用 FAISS、ScaNN 等库，保证系统高效。
• 解释：就像一个巨大的地图，资料都标上了坐标，问题是一个点，你找离它最近的几个资料点。

4. 文本相似度／语义相似度与距离

• 文本相似度介绍：指两段文本的相似程度，可分为表层(词汇重叠)和深层(语义)。在RAG 中，文本相似度用于在知识库中找到与用户查询最相关的信息。例如，“法国的首都是什么?”和“哪个城市是法国的首都?”虽措辞不同，但表达同一问题。优秀的相似度模型会识别并赋予高分，这通常通过文本嵌入计算。
• 语义相似度与距离介绍:语义相似度关注文本的含义和上下文，而非仅词汇。语义距离则是其反向指标。RAG 的语义搜索就是寻找与用户查询语义距离最小的文档。例如，“毛茸茸的猫咪”和“家猫”虽词汇不同，但表达同一概念，嵌入距离很近。正是这种“智能搜索”让 RAG 能在措辞不同的情况下找到相关信息。
• 原理：传统可能用关键词匹配或 BM25 等稀疏方法；语义相似度：用 embeddings 之后，用点积／余弦相似度／欧氏距离等度量向量间“距离”。在 RAG 中“问题向量” vs. “文档块向量” 的距离／相似度决定是否检索该块。
• 解释：就是看“提问”这一点和各“资料点”的距离／关系有多近，越近越可能相关。

5. 检索（Retrieval）

• 步骤：用户提问 → 转向量 → 在向量数据库／搜索索引中检索 top-k 或阈值以内的文档块 → 得到这些相关资料。
• 解释：你提个问题，系统先去“翻书”找可能有答案的小段。

6. 增强（Augmentation）

• 步骤：把检索到的相关资料（文档块、上下文片段）与用户提问一起构造成 prompt（或输入上下文）给 LLM，用于生成。提示工程（Prompt Engineering）也属于此环节。
• 解释：就是把“你提的问题”＋“找到的那些相关小段”一起给模型，让它在“看了这些资料”之后再回答。

7. 生成（Generation）

• 步骤：最后，LLM 利用提问 + 检索资料 + 自身知识，生成最终回答。其中文档资料起到“事实依据”作用。
• 解释：查完资料后你开始写回答了。

8. 重排序／再检索／反馈机制

• 介绍：在实际系统里，有时会对初检的资料做 rerank（重排序、剔除相关性差的资料）或多跳（multi-hop）检索、甚至反馈过去检索的结果改进模型。
• 解释：不是一次就完，有时你查到的资料不够，可能再查查、更精细地排个序再用。
  

五、RAG的发展方向

RAG 并非只有一种实现方式，下面是一些常见变体或进阶形式：

1. 标准 RAG（Vector-based RAG）

标准 RAG最常见的形式，正如上文介绍的流程：文档块 → embeddings → 向量数据库 → 检索 → 生成。这就是“文档＋向量＋LLM”的经典流程。适用于资料主要是文本、需求是基于相似语义检索。

2. 图 RAG（GraphRAG）

介绍：GraphRAG是 RAG引入知识图谱（Knowledge Graph）或图结构数据（节点＝实体、边＝关系）的形式，利用知识图谱而非简单向量数据库进行信息检索。检索时不仅看“语义相似”、还看“结构关系”（例如实体与实体之间的关系路径）。 它通过遍历知识图谱中实体(节点)间的显式关系(边)来回答复杂问题，能整合分散在多个文档的信息，弥补传统 RAG 的不足。通过理解数据间的连接，GraphRAG 能提供更具上下文和细致度的答案。

应用场景：包括复杂金融分析、企业与市场事件关联、科学研究(如基因与疾病关系发现)。主要缺点是构建和维护高质量知识图谱的复杂性、成本和专业要求极高，系统灵活性较低，延迟也可能高于简单向量检索。系统效果完全依赖底层图结构的质量和完整性。因此，GraphRAG 在需要深度、关联洞察时表现优异，但实现和维护成本较高。

优势：在需要 多跳推理、实体关系理解、复杂结构化知识场景（如法律、医学、学术）里表现更好。

举例：用户提问 “某人击败 X 之后，他的儿子叫什么？”，这种涉及“击败→儿子”这种关系，就更适合 Graph RAG。

3.智能体RAG（Agentic RAG）

智能体 RAG（Agentic RAG）是在传统 RAG 基础上加入“推理与决策层”的高级形态。它不再是“一次检索、一次生成”的被动流水线，而是让模型具备：

• 判断力：是否需要再次检索；
• 行动力：能主动调用外部工具或模块；
• 规划力：能分步执行复杂任务。

Agentic RAG是一种更自动化、更流程化的增强型 RAG，让系统从“资料搬运工”变成“问题解决专家”。

它具备四大智能特征：

1.反思与来源验证（Source Validation）

智能体不仅接受检索结果，还会审查其质量、相关性与时效性。示例：

用户问：“公司远程办公政策是什么？”

标准 RAG 可能同时取回 2020 年旧博客和 2025 年官方政策。

智能体 RAG 则会分析文档元数据，识别 2025 文件为最新、权威来源，丢弃旧信息，只保留正确内容供 LLM 生成。

结果：答案更准确可靠。

2.知识冲突调和（Conflict Resolution）

当不同来源的内容相互矛盾时，智能体能自动判断优先级，采用最可信数据。示例：

分析师问：“Alpha 项目 Q1 预算是多少？”

系统检索到两份文件：初步方案 €50,000 vs. 最终报告 €65,000。

智能体 RAG 识别冲突，优先采用财务报告数据。

结果：回答基于最终、权威数据，避免混乱。

3.多步推理与综合分析（Multi-step Reasoning）智能体可将复杂问题拆分为多个子问题，逐一检索、再整合回答。示例：

用户问：“我们产品的功能和定价与竞争对手 X 有何区别？”

智能体拆分成 4 个子任务：

① 检索自家产品功能；

② 检索自家定价；

③ 检索竞争对手功能；

④ 检索竞争对手定价。

最后将结果汇总成结构化对比表，送入 LLM 生成完整答案。

结果：回答更全面、逻辑化。

4. 识别知识空缺与外部工具调用（Tool Use & Gap Detection）

智能体具备自我反思能力：发现资料不足时，能主动寻求外部数据源。示例：

用户问：“昨天新产品发布后市场反应如何？”

内部知识库（每周更新）暂无数据；

智能体识别空缺 → 调用实时 Web 搜索 API → 获取最新新闻与社交媒体反馈 → 用于生成答案。

结果：系统突破静态数据库限制，能实时更新知识。

4. 其他变体／优化方向

混合检索（Hybrid Search）：将传统关键词检索（稀疏检索）与向量检索结合，以提高覆盖率。

时间维度／上下文记忆增强：在资料检索中考虑时间、动态变化或长对话记忆。

六、实践应用与典型场景

• 企业搜索与问答:企业可开发内部聊天机器人，利用 HR政策、技术手册、产品规格等内部文档回答员工问题。RAG 系统会提取相关文档片段辅助 LLM 响应。
• 客户支持与服务台:基于 RAG 的系统可通过产品手册、FAO、工单等信息，为客户提供精准一致的答复，减少人工介入。
• 个性化内容推荐:RAG 能根据用户偏好或历史行为，语义检索相关内容(文章、产品)，实现更相关的推荐，而非简单关键词匹配。
• 新闻与时事摘要:LLM 可集成实时新闻源，用户提问时，RAG检索最新文章，让LLM 生成最新摘要。

七、何时使用这种模式

如果你遇到以下情况，就该考虑RAG了：

• AI的知识太旧、答非所问；
• 问题涉及企业内部资料或专业知识；
• 需要生成“有出处”的答案；
• 想让AI支持实时、可验证的信息。

简单来说：当“模型脑子不够用”时，就给它挂上RAG的外挂记忆。

八、一图速览（视觉总结）

是什么:LLM 虽有强大文本生成能力，但受限于训练数据，知识是静态的，无法包含实时或专有数据，导致响应可能过时、不准确或缺乏特定场景所需的上下文，影响其在需最新、事实答案场景下的可靠性。

为什么:RAG 模式通过连接 LLM 与外部知识源，提供标准化解决方案。收到查询后系统先从指定知识库检索相关信息片段，再将这些片段附加到原始提示，丰富上下文最后送入 LLM，生成准确、可验证、基于外部数据的响应。此过程让 LLM 从“闭卷”推理者变为“开卷”推理者，显著提升实用性和可信度。

经验法则:当需要 LLM 基于最新、专有或训练数据之外的信息回答问题或生成内容时建议采用此模式。适用于构建内部文档问答系统、客户支持机器人，以及需可验证、带引用的事实型响应应用。

九、总结

总之，RAG 通过连接 LLM 与外部、最新数据源，解决了其静态知识的核心局限。流程包括先检索相关信息片段，再增强用户提示，使LLM 能生成更准确、具上下文的响应。让 LLM 从“闭卷对话者”变为强大的“开卷推理工具”。

普通人如何抓住AI大模型的风口？

为什么要学AI大模型

当下，⼈⼯智能市场迎来了爆发期，并逐渐进⼊以⼈⼯通⽤智能（AGI）为主导的新时代。企业纷纷官宣“ AI+ ”战略，为新兴技术⼈才创造丰富的就业机会，⼈才缺⼝将达 400 万！

DeepSeek问世以来，生成式AI和大模型技术爆发式增长，让很多岗位重新成了炙手可热的新星，岗位薪资远超很多后端岗位，在程序员中稳居前列。

与此同时AI与各行各业深度融合，飞速发展，成为炙手可热的新风口，企业非常需要了解AI、懂AI、会用AI的员工，纷纷开出高薪招聘AI大模型相关岗位。

AI大模型开发工程师对AI大模型需要了解到什么程度呢？我们先看一下招聘需求：

知道人家要什么能力，一切就好办了！我整理了AI大模型开发工程师需要掌握的知识如下：

大模型基础知识

你得知道市面上的大模型产品生态和产品线；还要了解Llama、Qwen等开源大模型与OpenAI等闭源模型的能力差异；以及了解开源模型的二次开发优势，以及闭源模型的商业化限制，等等。

了解这些技术的目的在于建立与算法工程师的共通语言，确保能够沟通项目需求，同时具备管理AI项目进展、合理分配项目资源、把握和控制项目成本的能力。

产品经理还需要有业务sense，这其实就又回到了产品人的看家本领上。我们知道先阶段AI的局限性还非常大，模型生成的内容不理想甚至错误的情况屡见不鲜。因此AI产品经理看技术，更多的是从技术边界、成本等角度出发，选择合适的技术方案来实现需求，甚至用业务来补足技术的短板。

AI Agent

现阶段，AI Agent的发展可谓是百花齐放，甚至有人说，Agent就是未来应用该有的样子，所以这个LLM的重要分支，必须要掌握。

Agent，中文名为“智能体”，由控制端（Brain）、感知端（Perception）和行动端（Action）组成，是一种能够在特定环境中自主行动、感知环境、做出决策并与其他Agent或人类进行交互的计算机程序或实体。简单来说就是给大模型这个大脑装上“记忆”、装上“手”和“脚”，让它自动完成工作。

Agent的核心特性

自主性： 能够独立做出决策，不依赖人类的直接控制。

适应性： 能够根据环境的变化调整其行为。

交互性： 能够与人类或其他系统进行有效沟通和交互。

对于大模型开发工程师来说，学习Agent更多的是理解它的设计理念和工作方式。零代码的大模型应用开发平台也有很多，比如dify、coze，拿来做一个小项目，你就会发现，其实并不难。

AI 应用项目开发流程

如果产品形态和开发模式都和过去不一样了，那还画啥原型？怎么排项目周期？这将深刻影响产品经理这个岗位本身的价值构成，所以每个AI产品经理都必须要了解它。

看着都是新词，其实接触起来，也不难。

从0到1的大模型系统学习籽料

最近很多程序员朋友都已经学习或者准备学习 AI 大模型，后台也经常会有小伙伴咨询学习路线和学习资料，我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师（吴文俊奖得主）

给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料，这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入，精准学习显得尤为重要。一份系统的技术路线图，不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点，还能提供一条高效、有序的学习路径。

• 基础篇，包括了大模型的基本情况，核心原理，带你认识了解大模型提示词，Transformer架构，预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门AI大模型
• 进阶篇，你将掌握RAG，Langchain、Agent的核心原理和应用，学习如何微调大模型，让大模型更适合自己的行业需求，私有化部署大模型，让自己的数据更加安全
• 项目实战篇，会手把手一步步带着大家练习企业级落地项目，比如电商行业的智能客服、智能销售项目，教育行业的智慧校园、智能辅导项目等等

但知道是一回事，做又是另一回事，初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性，在这基础上，找到高质量的学习资源，不浪费时间、不走弯路，又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式，可以更直观地展示过程，能有效提升学习兴趣和理解力，是现在获取知识的重要途径

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

海量AI大模型必读的经典书籍（PDF）

阅读AI大模型经典书籍可以帮助读者提高技术水平，开拓视野，掌握核心技术，提高解决问题的能力，同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说，阅读经典书籍是非常有必要的。

600+AI大模型报告（实时更新）

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下

AI时代，企业最需要的是既懂技术、又有实战经验的复合型人才，**当前人工智能岗位需求多，薪资高，前景好。**在职场里，选对赛道就能赢在起跑线。抓住AI这个风口，相信下一个人生赢家就是你！机会，永远留给有准备的人。

如何获取？

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】