前言

一、大模型的局限

随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。

通义系列、GPT系列、LLama系列等模型，在语言交互场景下表现十分抢眼。以Gemini为代表这类大模型甚至发展出了视觉和听觉，朝着智能体的方向演化。它们在多个指标上展现的能力甚至已经超过了人类。

然而，大型语言模型也存在诸多不足：

• 知识的局限性：模型知识的广度获取严重依赖于训练数据集的广度，目前市面上大多数的大模型的训练集来源于网络公开数据集，对于一些内部数据、特定领域或高度专业化的知识，无从学习。
• 知识的滞后性：模型知识的获取是通过使用训练数据集训练获取的，模型训练后产生的一些新知识，模型是无法学习的，而大模型训练成本极高，不可能经常为了弥补知识而进行模型训练。
• 幻觉问题：所有的AI模型的底层原理都是基于数学概率，其模型输出实质上是一系列数值运算，大模型也不例外，所以它有时候会一本正经地胡说八道，尤其是在大模型自身不具备某一方面的知识或不擅长的场景。而这种幻觉问题的区分是比较困难的，因为它要求使用者自身具备相应领域的知识。
• 数据安全性：对于企业来说，数据安全至关重要，没有企业愿意承担数据泄露的风险，将自身的私域数据上传第三方平台进行训练。这也导致完全依赖通用大模型自身能力的应用方案不得不在数据安全和效果方面进行取舍。

二、RAG的定义

在大型语言模型时代，RAG的具体定义是指在回答问题或生成文本时，首先从大量文档中检索相关信息的模型。随后，它利用这些检索到的信息来生成响应或文本，从而提高预测的质量。RAG方法允许开发人员避免为每个特定任务重新训练整个大型模型。RAG的工作原理如下图所示：

图片来自：https://www.meilisearch.com/blog/what-is-rag

1. 索引

在正式进行RAG之前，你需要将所有外部数据进行准备并拆分为更小的片段——这一过程称为 “分块（chunking）”。这些信息可包括内部文档、操作手册、电子邮件、PDF 文件等。随后，每个信息片段会被转换为嵌入向量（embedding），并存储到一个专为理解语义而非仅匹配文字设计的特殊数据库中（即向量数据库）。

图片来自：https://docs.langchain.com/oss/python/langchain/rag

2. 理解用户查询

当用户提出问题（例如 “商务出差预订流程是什么？”）时，系统会使用与步骤1相同的词嵌入模型，将该查询也转换为嵌入向量。

3. 检索相关信息

系统会将查询嵌入向量与存储的嵌入向量进行比对，检索出最相似的结果 —— 即便表述方式不同也能匹配。例如，系统可基于语义关联 “出差预订（trip booking）” 与 “差旅申请（travel request）”，而非依赖完全一致的术语。

4. 构建增强提示词

RAG 会将检索到的文本片段与用户问题相结合，构建一个上下文感知的提示词。这能为语言模型提供其训练阶段未接触过的、新鲜且相关的上下文信息。

5. 生成响应

大型语言模型利用这个增强提示词生成答案。由于答案基于真实、最新的信息（由 RAG提供支持），输出结果会更准确，且不易产生幻觉。

图片来自：https://docs.langchain.com/oss/python/langchain/rag

三、RAG的挑战

RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。然而，尽管RAG有其独特的优势，但在实践过程中也遭遇了诸多挑战。

3.1 数据质量差导致检索效果差

在RAG模型中，检索阶段的输出直接影响到生成阶段的输入和最终的输出质量。如果RAG数据库中存在大量的错误信息并被检索，这可能引导模型走向错误的方向，即使优化检索阶段做大量的工作，可能对结果的影响也微乎其微。

3.2 数据向量化的信息损失

为了实现高效的文档检索，通常需要将原始的文本数据转化为数值向量，这一过程又称为数据向量化。数据向量化的目的是将文本数据映射到一个低维的向量空间中，使得语义相似的文本在向量空间中的距离较近，而语义不相似的文本在向量空间中的距离较远。然而，数据向量化也会导致一定程度的信息损失，因为文本数据的复杂性和多样性很难用有限的向量来完全表达。因此，数据向量化可能会忽略一些文本数据的细节和特征，从而影响文档检索的准确性。

3.3 语义搜索的不准确

在RAG中，语义搜索是指根据用户的问题，从文档集合中检索出与问题语义最相关的文档，这一过程又称为数据召回。语义搜索的难点在于如何理解用户的问题和文档的语义，以及如何衡量问题和文档之间的语义相似度。目前，语义搜索的主流方法是基于数据向量化的结果，利用向量空间中的距离或相似度来度量语义相似度。然而，这种方法也存在一些局限性，例如向量空间中的距离或相似度并不一定能反映真实的语义相似度，而且向量空间中的噪声和异常值也会干扰语义搜索的结果。因此，语义搜索的准确率也无法有100%的保证。

四、RAG的研究范式

RAG的研究范式在不断发展，业界关于RAG的名词铺天盖地，各种RAG的玩法五花八门，这对初学者造成了一定困扰，笔者在刚开始学习RAG也是被搞得一头雾水，这里还是借助大模型的力量来整理一下RAG的最新分类方法，感觉还是挺靠谱的，大模型基于北京大学、微软研究院、密歇根大学等机构的最新RAG综述（覆盖近 300 篇论文）整理的目前最全面、权威的 RAG 分类框架，涵盖9大分类维度。笔者的“吃透 RAG系列”文章将按照下面的范式分类进行逐一讲解，欢迎感兴趣的读者关注。

1、按技术演进与复杂度分类（权威框架）

• 朴素RAG (Naive RAG)

• 流程：索引→检索→生成（直接拼接结果）
• 特点：结构简单、易实现，检索质量不稳定，噪声敏感
• 场景：简单事实问答（如 “2024年奥运会举办地”）

• 高级 RAG (Advanced RAG)

• 检索优化：查询改写、子查询拆分、混合检索（向量 + 关键词）
• 结果处理：重排序、上下文压缩、多粒度分块
• 场景：高精度需求领域（法律文档分析、医疗诊断）

• 模块化 RAG (Modular RAG)

• 架构：解耦为可插拔模块（检索器、重排器、路由代理）
• 能力：迭代检索、自适应检索（按问题难度选择路径）
• 场景：企业级知识管理、多源异构数据集成

• 代理式 RAG (Agentic RAG)

• 引入自主决策智能体，实现动态任务规划与工具调用
• 具备 “思考 - 检索 - 再思考 - 再检索” 的闭环推理能力
• 场景：复杂多跳推理、跨系统数据整合（金融风控、科研发现）

2.按基础架构与工作方式分类（北大PKU-DAIR综述）

• 基于查询的 RAG (Query-based RAG)

• 将检索结果直接拼接到查询中作为增强提示
• 实现：prompt = f” 基于以下上下文：{context}\n\n 请回答：{query}”
• 最广泛应用的RAG范式

• 基于隐空间的RAG (Latent-based RAG)

• 在生成模型隐藏层以向量形式融合检索信息
• 方法：特征拼接、注意力机制（如检索 - 生成交叉注意力）
• 优势：更细粒度信息融合，减少噪声影响

• 基于概率表示的 RAG (Logits-based RAG)

• 在生成模型输出层（logits）融合检索信息
• 实现：将检索结果编码为概率分布，与生成概率加权求和
• 场景：需要精确控制生成结果的任务

• 推测式 RAG (Speculative RAG)

• 用检索替代部分生成过程，降低成本
• 实现：先检索相似问题答案，再用 LLM 验证与微调
• 优势：响应速度提升30%+，适合高成本 API 场景

3.按检索—生成交互方式分类（微软研究院综述）

• 检索后生成 (Retrieve-then-Generate)

• 标准模式：先检索→后生成，适合问题明确场景

• 生成中检索 (Generate-and-Retrieve)

• LLM 先生成初步答案→识别缺失信息→再检索→完善答案
• 场景：需要多轮信息补充的复杂问题

• 迭代式 RAG (Iterative RAG)

• 检索→生成→评估→再检索→再生成的循环
• 优势：逐步逼近正确答案，减少幻觉，适合复杂多跳推理

• 自适应 RAG (Adaptive RAG)

• 按问题难度动态选择策略：简单问题直接生成，复杂问题多步检索
• 效果：效率提升30%+，资源利用更优化

4.按功能架构分类（Weaviate 官方模型）

架构类型	核心技术	典型场景
朴素 RAG	文档分块→向量检索→直接生成	基础问答（TriviaQA）
检索 - 重排 RAG	增加重排序模块（交叉编码器）	高精度文档查询（法律合同）
多模态 RAG	融合文本、图像、音频的跨模态检索	医疗影像报告、电商推荐
图 RAG	基于图数据库存储实体关系	多跳推理（科研文献分析）
混合 RAG	混合向量 / 关键词 / 图检索	异构知识库整合（企业 Wiki）
路由型 Agentic RAG	动态路由至最优模块（API / 数据库）	跨系统数据源问答
多智能体 RAG	多智能体协同检索（如 MADAM-RAG）	超大规模任务（全球新闻汇总）

5.按数据与知识表示分类

• 文本 RAG (Textual RAG)

• 处理非结构化文本（PDF、Word）与结构化文本（表格）
• 最主流形式，广泛用于企业知识管理

• 图 RAG (Graph RAG)

• 三阶段框架：图索引构建→图引导检索→图增强生成
• 类型：知识图谱 RAG、文档图谱 RAG、科学图谱 RAG
• 优势：捕获实体关系与多跳关联，多跳问答准确率提升12%+

• 多模态 RAG (Multimodal RAG)

• 模态组合：文本 + 图像（医疗影像诊断）、文本 + 音频（语音助手）、文本 + 视频（视频内容分析）
• 关键技术：跨模态对齐、多模态特征融合arXiv

• 异构数据 RAG (Heterogeneous RAG)

• 整合结构化数据库（SQL）、半结构化（JSON）、非结构化数据
• 场景：企业数据中台、智能报表生成

6、按智能体架构分类（Agentic RAG）

• 单智能体 RAG (Single-Agent RAG)

• 单个智能体负责检索、生成与决策
• 典型：Router-Agent（根据查询类型选择检索策略）

• 多智能体 RAG (Multi-Agent RAG)

• 多个智能体分工协作：检索 Agent、推理 Agent、验证 Agent
• 代表：MADAM-RAG（处理冲突证据的多智能体辩论机制）

• 层次化智能体 RAG (Hierarchical Agentic RAG)

• 多层级结构：顶级 Agent 分解任务→子 Agent 执行→结果聚合
• 场景：大型复杂任务（市场分析、政策制定）

• 特殊类型智能体 RAG

• 纠正式 RAG (Corrective RAG)：检测并纠正错误信息，降低幻觉
• 自适应 RAG (Adaptive RAG)：动态调整检索深度与策略
• 自省式 RAG (Self-RAG)：LLM 反思自身知识缺口并触发检索

7、按任务类型与应用场景分类

• 问答系统 (QA RAG)

• 开放域问答（Natural Questions、TriviaQA）
• 垂直领域问答（医疗、法律、金融）
• 多跳问答（HotpotQA，需跨文档推理）

• 内容生成 RAG

• 文章写作（新闻、报告）
• 创意内容（故事、诗歌）
• 代码生成（检索代码片段并整合）arXiv

• 文本分析 RAG

• 情感分析（结合外部知识库更精准）
• 实体识别（增强领域实体覆盖）
• 摘要生成（长文档压缩 + 关键信息提取）arXiv

• 对话系统 RAG

• 客服机器人（整合产品知识库）
• 个人助手（日程、信息查询）
• 多轮对话（上下文感知 + 动态检索）

8、按融合与增强策略分类

• 检索增强策略

• 提示词增强：将检索结果整合到提示词
• 知识注入：在生成过程中动态注入外部知识
• 混合检索：稀疏检索（BM25）+ 稠密检索（向量），提升召回率与准确率

• 生成增强策略

• 多答案生成：基于不同信息源生成多个候选答案
• 答案验证：检索验证生成内容的真实性
• 思维链 (CoT) 增强：结合检索信息进行多步推理

• 知识融合方式

• 潜在融合：在隐藏层整合检索信息
• 对数融合：在输出层（logits）融合
• 特征连接：将检索文本编码与查询特征拼接

9、按系统能力层级分类（权威评估框架）

• L1：显式事实查询

• 简单事实检索（如 “北京人口”），基础 RAG 足够

• L2：隐式事实查询

• 需要基本推理（如 “找出销量大于 1000 的产品”），需 Advanced RAG

• L3：可解释推理查询

• 需要理解领域知识并解释（如 “根据指南诊断症状”），需 Modular RAG

• L4：隐藏推理查询

• 需要推断未明确定义的规则（如 “经济形势对公司影响”），需 Agentic RAG

• L5：通用智能

• 自主定义目标、规划任务、持续学习的 RAG 系统（尚在研究阶段）

普通人如何抓住AI大模型的风口？

为什么要学AI大模型

当下，⼈⼯智能市场迎来了爆发期，并逐渐进⼊以⼈⼯通⽤智能（AGI）为主导的新时代。企业纷纷官宣“ AI+ ”战略，为新兴技术⼈才创造丰富的就业机会，⼈才缺⼝将达 400 万！

DeepSeek问世以来，生成式AI和大模型技术爆发式增长，让很多岗位重新成了炙手可热的新星，岗位薪资远超很多后端岗位，在程序员中稳居前列。

与此同时AI与各行各业深度融合，飞速发展，成为炙手可热的新风口，企业非常需要了解AI、懂AI、会用AI的员工，纷纷开出高薪招聘AI大模型相关岗位。

AI大模型开发工程师对AI大模型需要了解到什么程度呢？我们先看一下招聘需求：

知道人家要什么能力，一切就好办了！我整理了AI大模型开发工程师需要掌握的知识如下：

大模型基础知识

你得知道市面上的大模型产品生态和产品线；还要了解Llama、Qwen等开源大模型与OpenAI等闭源模型的能力差异；以及了解开源模型的二次开发优势，以及闭源模型的商业化限制，等等。

了解这些技术的目的在于建立与算法工程师的共通语言，确保能够沟通项目需求，同时具备管理AI项目进展、合理分配项目资源、把握和控制项目成本的能力。

产品经理还需要有业务sense，这其实就又回到了产品人的看家本领上。我们知道先阶段AI的局限性还非常大，模型生成的内容不理想甚至错误的情况屡见不鲜。因此AI产品经理看技术，更多的是从技术边界、成本等角度出发，选择合适的技术方案来实现需求，甚至用业务来补足技术的短板。

AI Agent

现阶段，AI Agent的发展可谓是百花齐放，甚至有人说，Agent就是未来应用该有的样子，所以这个LLM的重要分支，必须要掌握。

Agent，中文名为“智能体”，由控制端（Brain）、感知端（Perception）和行动端（Action）组成，是一种能够在特定环境中自主行动、感知环境、做出决策并与其他Agent或人类进行交互的计算机程序或实体。简单来说就是给大模型这个大脑装上“记忆”、装上“手”和“脚”，让它自动完成工作。

Agent的核心特性

自主性： 能够独立做出决策，不依赖人类的直接控制。

适应性： 能够根据环境的变化调整其行为。

交互性： 能够与人类或其他系统进行有效沟通和交互。

对于大模型开发工程师来说，学习Agent更多的是理解它的设计理念和工作方式。零代码的大模型应用开发平台也有很多，比如dify、coze，拿来做一个小项目，你就会发现，其实并不难。

AI 应用项目开发流程

如果产品形态和开发模式都和过去不一样了，那还画啥原型？怎么排项目周期？这将深刻影响产品经理这个岗位本身的价值构成，所以每个AI产品经理都必须要了解它。

看着都是新词，其实接触起来，也不难。

从0到1的大模型系统学习籽料

最近很多程序员朋友都已经学习或者准备学习 AI 大模型，后台也经常会有小伙伴咨询学习路线和学习资料，我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师（吴文俊奖得主）

给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料，这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入，精准学习显得尤为重要。一份系统的技术路线图，不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点，还能提供一条高效、有序的学习路径。

• 基础篇，包括了大模型的基本情况，核心原理，带你认识了解大模型提示词，Transformer架构，预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门AI大模型
• 进阶篇，你将掌握RAG，Langchain、Agent的核心原理和应用，学习如何微调大模型，让大模型更适合自己的行业需求，私有化部署大模型，让自己的数据更加安全
• 项目实战篇，会手把手一步步带着大家练习企业级落地项目，比如电商行业的智能客服、智能销售项目，教育行业的智慧校园、智能辅导项目等等

但知道是一回事，做又是另一回事，初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性，在这基础上，找到高质量的学习资源，不浪费时间、不走弯路，又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式，可以更直观地展示过程，能有效提升学习兴趣和理解力，是现在获取知识的重要途径

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

海量AI大模型必读的经典书籍（PDF）

阅读AI大模型经典书籍可以帮助读者提高技术水平，开拓视野，掌握核心技术，提高解决问题的能力，同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说，阅读经典书籍是非常有必要的。

600+AI大模型报告（实时更新）

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下

AI时代，企业最需要的是既懂技术、又有实战经验的复合型人才，**当前人工智能岗位需求多，薪资高，前景好。**在职场里，选对赛道就能赢在起跑线。抓住AI这个风口，相信下一个人生赢家就是你！机会，永远留给有准备的人。

如何获取？

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】