大模型RAG关键技术详解 | 什么是问题改写?问题改写在 RAG 中的常见方法!
问题改写是 RAG 系统中不可或缺的“桥梁”技术,它连接了“用户语言”与“知识库语言”,显著提升了检索的相关性和系统整体性能。掌握并合理应用问题改写方法,是构建高效、智能 RAG 应用的关键一步。
问题改写是 RAG 系统中不可或缺的“桥梁”技术,它连接了“用户语言”与“知识库语言”,显著提升了检索的相关性和系统整体性能。掌握并合理应用问题改写方法,是构建高效、智能 RAG 应用的关键一步。
1、问题改写(Query Rewriting/Transformation)
问题改写(Query Rewriting/Transformation)是信息检索、对话系统和RAG(检索增强生成)中的关键技术,旨在对用户原始问题进行转换、分解或增强,以提高检索效果或理解准确性。
2、为什么问题改写在 RAG 中如此重要?
在原始的 RAG 流程中,用户提问后,系统直接使用该问题去检索知识库。但实际中,用户的问题可能存在:
- 表述模糊(如:“它怎么样?”)
- 缺少上下文(如对话历史中的指代)
- 使用口语化或非专业术语
- 复杂多跳问题(包含多个子问题)
这些问题会导致检索失败或召回不相关文档。问题改写的作用就是优化原始查询,使其更适合检索系统(尤其是向量数据库或搜索引擎)理解与匹配。
3、问题改写在 RAG 中的常见方法
序号 | 方法名称 | 核心说明 | 示例展示 |
---|---|---|---|
1 | 同义扩展(Query Expansion) | 通过添加同义词、近义表达或相关术语,扩大检索覆盖范围 | “手机发热” → “手机发烫、过热、温度高” |
2 | 语义重写(Semantic Rewriting) | 将口语化、模糊表述转化为更清晰、标准的表达,提升检索准确性 | “这玩意儿好用吗?” → “这款产品用户体验如何?” |
3 | 对话历史融合(History Integration) | 整合上下文信息,解决对话中的指代问题,明确检索对象 | 历史:“特斯拉 Model Y” 问:“续航多少?” → “特斯拉 Model Y 续航多少?” |
4 | 问题分解(Step Decomposition) | 将复杂的多跳问题拆解为多个简单的单跳问题,分步检索后整合结果 | “比较 A 和 B 的优缺点” → 分别检索 A 的优点、A 的缺点、B 的优点、B 的缺点 |
5 | HyDE(假想文档嵌入) | 先生成假设性回答,再通过其向量检索相似的真实文档,优化检索相关性 | “光合作用的过程?” → 生成回答 → 向量化检索相似真实文档 |
6 | 标签提取与结构化查询 | 提取问题中的实体、类别、属性等关键信息,用于结构化过滤检索结果 | “找一部科幻类、诺兰导演的电影” → 过滤 genre = 科幻,director = 诺兰 |
7 | 查询重表述(Paraphrasing) | 用不同句式或表达方式重述问题,保持语义不变的同时优化检索适配性 | “怎么安装 Python?” → “Python 的安装步骤是什么?” |
4、问题改写带来的好处
核心价值目标 | 具体说明 | 关联优化方法举例 |
---|---|---|
提高召回率(Recall) | 通过扩展或重写查询内容,扩大检索覆盖范围,匹配更多潜在相关文档 | 同义扩展、问题分解 |
增强语义理解 | 优化查询表述的清晰度和标准化程度,帮助检索器精准捕捉用户真实需求意图 | 语义重写、查询重表述 |
支持多轮对话 | 整合上下文信息,解决对话中的指代模糊或上下文缺失问题,明确检索对象 | 对话历史融合 |
优化向量检索效果 | 提升查询 embedding 与文档 embedding 的匹配精度,尤其适用于语义检索场景 | HyDE、语义重写 |
降低对原始查询质量的依赖 | 通过技术手段修正不规范、口语化或模糊的提问,保障检索效果稳定性 | 语义重写、标签提取与结构化查询 |
5、实际应用建议
- 在 RAG 系统中,可将问题改写作为预处理模块,位于用户输入与检索器之间。
- 可结合多种策略:如先融合对话历史,再进行 HyDE 或分解。
- 注意延迟与成本权衡:使用大模型进行改写会增加推理时间,需根据场景选择轻量或复杂策略。
那么,如何系统的去学习大模型LLM?
作为一名从业五年的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。
所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
2025最新版CSDN大礼包:《AGI大模型学习资源包》免费分享**
一、2025最新大模型学习路线
一个明确的学习路线可以帮助新人了解从哪里开始,按照什么顺序学习,以及需要掌握哪些知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。
我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。
L1级别:AI大模型时代的华丽登场
L1阶段:我们会去了解大模型的基础知识,以及大模型在各个行业的应用和分析;学习理解大模型的核心原理,关键技术,以及大模型应用场景;通过理论原理结合多个项目实战,从提示工程基础到提示工程进阶,掌握Prompt提示工程。
L2级别:AI大模型RAG应用开发工程
L2阶段是我们的AI大模型RAG应用开发工程,我们会去学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。
L3级别:大模型Agent应用架构进阶实践
L3阶段:大模型Agent应用架构进阶实现,我们会去学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造我们自己的Agent智能体;同时还可以学习到包括Coze、Dify在内的可视化工具的使用。
L4级别:大模型微调与私有化部署
L4阶段:大模型的微调和私有化部署,我们会更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调;并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。
整个大模型学习路线L1主要是对大模型的理论基础、生态以及提示词他的一个学习掌握;而L3 L4更多的是通过项目实战来掌握大模型的应用开发,针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。
二、大模型经典PDF书籍
书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。(书籍含电子版PDF)
三、大模型视频教程
对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识。
四、大模型项目实战
学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。
五、大模型面试题
面试不仅是技术的较量,更需要充分的准备。
在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
更多推荐
所有评论(0)