前言

你是否曾经疑惑,为什么有些AI能准确回答最新事件,而你的AI助手却对近期发生的事情一无所知?或者为什么别人用的AI能提供专业领域的高质量回答,而你的却常常“胡说八道”?

这一切的区别,很可能就在于是否使用了RAG技术。

1.RAG是什么?

索增强生成(Retrieval-Augmented Generation,简称RAG)是一种突破性的人工智能架构,它创新性地将大型语言模型的生成能力与外部知识库的检索功能相结合。RAG的核心思想是让AI模型在回答问题前,先从一个可更新的知识库中查找相关信息,然后基于这些准确、最新的信息生成答案,从而解决传统大模型的知识滞后和事实虚构问题。

一般用户在使用大模型的时候,其实只需要使用自然语言问问题,大模型就会返回相应的答案。

所以只要掌握好提示词工程,大多数场景就已经可以让大模型乖乖给你干活了。但是大模型能回答的仅限于公域知识。如果你有一个私域文档,希望大模型根据文档的内容回答问题。要怎么搞?

也很简单,只要把文档丢给大模型让他参考就可以了。

比如,你有一个文档《公司内部学习资料》,只需要把文档的内容全部复制粘贴到提示词中,并要求大模型参考知识回答问题即可。

但是,如果文档非常长,比如是一本书,没办法一次性丢给大模型参考,该怎么办?

这个时候就需要用到我们的 RAG(检索增强生成)技术了。

下图展示了RAG技术的完整工作流程,包含了从知识预处理到最终生成的各个环节:

RAG的工作流程可以概括为三个核心环节:检索(Retrieval)、增强(Augmentation)和生成(Generation)。当用户提出问题时,系统首先从外部知识库中检索与问题相关的信息片段,然后将这些信息与原始问题组合成一个增强的提示词,最后输入到大语言模型中生成准确、可信的回答。这种方法相当于给大模型安装了一个“外接大脑”,使其能够突破训练数据的限制,获取最新、最专业的知识。

从本质上看,RAG将大语言模型从“封闭的知识容器”转变为“开放的知识处理器”,在准确性、时效性和可信度之间实现了更好的平衡,成为当前最受关注的AI技术之一。

  1. RAG的核心技术流程与步骤解析

RAG系统的完整工作流程包含多个精密衔接的技术环节,通常可划分为三大阶段:知识预处理阶段、检索优化阶段和增强生成阶段。每个阶段都包含若干关键技术步骤,共同确保了RAG系统能够高效、准确地从海量信息中提取相关知识并生成优质回答。

2.1 知识预处理:向量化存储

知识预处理是RAG系统搭建的基础阶段,主要目标是将原始知识转化为便于检索的结构化格式。这一阶段包含三个关键步骤:知识分块(Chunking)、生成嵌入(Embedding)和向量存储(Vector Storage)。

知识分块是将原始文档切割成适当大小文本片段的过程。常用的分块策略包括固定长度分块(如每200字一个块)、语义边界分块(基于句子或段落分隔符)、结构化分块(针对表格和代码等特殊内容)以及重叠分块(相邻块之间有10%-20%重叠,防止关键信息被截断)。

生成嵌入是将文本转化为向量表示的关键步骤。通过预训练的嵌入模型(如BERT等),将每个知识块转化为高维向量。这些嵌入模型能够捕捉文本的深层语义,将语义相似的内容映射到数学空间中距离相近的向量。例如,“抗过拟合技术”与“正则化方法”的向量距离会非常接近,而“苹果(水果)”与“苹果(品牌)”的向量则会明显不同。

向量存储是将生成的向量与原始文本、元数据(如文档名称、页码、更新时间)一同存入向量数据库的过程。它通过构建近似最近邻索引,将线性搜索转化为毫秒级的快速匹配,满足实时交互需求。

表:RAG中常用的知识分块策略对比

2.2 检索优化:精准获取相关知识

当用户提出查询时,RAG系统进入检索优化阶段,目标是精准定位与查询最相关的知识片段。这一阶段包含查询嵌入、语义检索和重排序三个环节

查询嵌入是指使用与知识块相同的嵌入模型,将用户问题转化为查询向量。这一步的关键是确保查询向量与知识向量处于同一语义空间,只有这样后续的相似性比对才有意义。

语义检索是通过查询向量在向量数据库中进行相似度匹配的过程。系统调用向量数据库的检索接口,通过近似最近邻算法召回Top-K个(通常K=5-20)与查询向量最相似的知识块。

重排序是对初步检索结果进行精细化校准的过程。初步检索得到的Top-K知识块中可能包含“语义相似但主题偏离”的噪声。

2.3 增强生成:基于知识的可信回答

增强生成是RAG流程的最终阶段,将检索到的可靠信息与大语言模型的推理能力相结合,生成准确、可信的回答。这一阶段的核心是提示词构建和生成控制。

提示词构建是将用户原始查询与重排序后的相关知识块组合成增强提示词的过程。一个典型的提示词模板如下:

3.RAG在数字政府中的典型应用场景

RAG技术在数字政府建设中具有广泛的应用前景,能够有效提升政府服务的智能化水平和工作效率。通过将政策法规、办事指南、政府文档等海量结构化与非结构化知识融入RAG系统,政府部门可以构建智能高效的公共服务平台,为公民和企业提供更准确、及时的服务。

3.1 智能政策咨询与公共服务问答

政策咨询是政府服务的高频需求,但政策文件数量庞大、更新频繁,传统咨询方式效率低下。RAG技术可以构建智能政策咨询系统,快速准确回应公众的政策查询。

系统将各类政策文件、办事指南、法律法规等知识进行向量化存储,建立专门的政策知识库。当公民或企业咨询政策问题时,系统能够快速检索相关条款和规定,生成简明易懂的解答,并注明政策来源。

在公共服务问答方面,RAG系统可以整合各部门的常见问题解答(FAQ)、办事流程等信息,为公众提供7×24小时的智能问答服务。

3.2 多模态政务服务与智能审批

RAG技术不仅限于文本处理,多模态RAG架构更能处理图像、表格、音频等多种形式的数据,为数字政府建设开辟更广阔的应用场景。

在智能审批领域,RAG系统可以整合申请材料、审批标准、案例参考等多模态信息,辅助工作人员进行高效精准的审批决策。例如,企业提交的申请材料可能包含营业执照扫描件(图像)、财务报表(表格)、项目说明(文本)等不同形式的内容,多模态RAG能够统一处理这些信息,与相关政策法规进行比对,生成审批建议。

在公共服务方面,多模态RAG可以实现跨模态的便民服务。例如,市民拍摄一处市政设施损坏的照片并上传,系统可以结合图片信息和地理位置数据,检索相关的维修政策和责任部门,自动生成维修申请或提供处理指引。这种应用极大简化了市民反馈问题的流程,提高了公共服务的响应速度和质量。

3.3 智能公文写作与决策支持

政府日常工作中涉及大量公文写作和决策制定,RAG技术在这些场景中也能发挥重要作用。通过整合政策文件、历史案例、行业报告等高质量知识源,RAG系统可以辅助公务员进行公文撰写和数据分析。

在决策支持方面,RAG系统可以整合多源信息(包括统计数据、研究报告、成功案例等),为政策制定提供全面精准的信息支持。当政府部门需要考虑某项政策调整时,系统可以快速检索类似的历史案例、相关数据统计、专家观点等,生成综合分析报告,帮助决策者全面评估政策影响。

3.4 政务热线与市民服务优化

政务热线和市民服务是政府连接群众的重要渠道,RAG技术可以显著提升这些服务的效率和质量。通过构建基于RAG的智能客服系统,能够实现一站式解决群众诉求。

在政务热线场景中,RAG系统可以实时检索相关政策法规和办事流程,为话务员提供标准准确的答复建议,确保咨询回应的一致性和准确性。同时,系统可以记录和分析高频问题,为政府优化公共服务提供数据支持。

4.普通人如何用好RAG技术?

即使你没有技术背景,也能通过以下几种方式享受RAG技术带来的便利:

4.1. 选择已集成RAG的AI工具

现在越来越多的AI应用内置了RAG技术。比如一些智能笔记应用(如Notion AI)、文档助手(如ChatPDF)等,它们本质上就是利用RAG技术,将你的文档作为外部知识库,帮你快速获取文档中的信息。

4.2. 利用浏览插件增强AI助手

一些AI助手提供了浏览器插件,这实际上是一种简化版的RAG技术。当AI回答问题时,它可以实时搜索网络上的最新信息,并将其作为生成答案的依据。这使得AI能够回答关于最新事件的问题。

4.3. 在工作流中巧妙应用RAG思维

即使不使用专门的RAG工具,你也可以借鉴RAG的思维模式:先检索,再生成。具体来说:

研究与写作:在让AI帮助写作前,先自己搜集相关资料,然后将这些资料与你的问题一起提交给AI,要求它基于这些资料生成内容。

专业咨询:当需要AI提供专业建议时(如法律、医疗等),先提供相关的专业文献或指南,再询问AI基于这些权威资料的分析。

数据分析:在让AI分析数据前,先提供相关的数据背景和行业报告,使AI的分析更加准确可靠。

最后,希望大家都能在RAG的应用中取得理想的成果,让人工智能真正为我们的生活和工作带来更多的便利和价值!

最后

为什么要学AI大模型

当下,⼈⼯智能市场迎来了爆发期,并逐渐进⼊以⼈⼯通⽤智能(AGI)为主导的新时代。企业纷纷官宣“ AI+ ”战略,为新兴技术⼈才创造丰富的就业机会,⼈才缺⼝将达 400 万!

DeepSeek问世以来,生成式AI和大模型技术爆发式增长,让很多岗位重新成了炙手可热的新星,岗位薪资远超很多后端岗位,在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合,飞速发展,成为炙手可热的新风口,企业非常需要了解AI、懂AI、会用AI的员工,纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述
最近很多程序员朋友都已经学习或者准备学习 AI 大模型,后台也经常会有小伙伴咨询学习路线和学习资料,我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料,这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入,精准学习显得尤为重要。一份系统的技术路线图,不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点,还能提供一条高效、有序的学习路径。

img

但知道是一回事,做又是另一回事,初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性,在这基础上,找到高质量的学习资源,不浪费时间、不走弯路,又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式,可以更直观地展示过程,能有效提升学习兴趣和理解力,是现在获取知识的重要途径

在这里插入图片描述
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

海量AI大模型必读的经典书籍(PDF)

阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
在这里插入图片描述

600+AI大模型报告(实时更新)

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐