实际应用场景中，如果我们单纯的使用向量化，在向量数据库中把原来的文档做切片找到最接近的向量的快放到内容里面去然后让大模型整理输出内容，这样的方式能解决70%的应用场景，对于一些非常宏观的知识问答，有些知识点非常分散，分散在大量的文档里面，比如几百万几千万个文档都有重叠，如果我们向量搜索的top key 只有10个，但是返回的知识点可能远远超过10个，这样我们系统输出的答案就会不全造成部分缺失，作为信息的精炼格式，知识图谱可切割的数据颗粒度比我们人工的分割的更细、更小。

将知识图谱的小颗粒数据与原先人工处理的大块数据相结合，我们可以更好地搜索需要全局 / 跨节点上下文的查询，我们通过知识图谱把大模型的推理能力和知识点分开，目前LangChain和Llama Index均支持将嵌入式向量和知识图谱结合来解决剩下30%的应用场景。

传统本地问答系统构建方案

单纯的利用大语言模型，让大语言具备特定属性的问答能力，目前我们主要有两种方式，微调 ——fine-tune 和上下文学习 —— in-context learning，这两种方式中，上下文学习是综合成本更低的方式。

微调 (Fine-tuning)：在原有大型模型的基础上进行训练的方法。这种方式首先需要大规模的预训练，然后再对模型进行微调，以适应特定的任务或问题。预训练模型时，模型会在大量的文本数据上进行训练，学习如何理解和生成人类语言。这种训练通常在一个非常大的数据集上进行，模型会学习到语言的各种模式和规则。然后，在微调阶段，模型会在一个更小，更特定的数据集上进行训练。这个数据集通常是针对特定任务或问题的。通过这种方式，模型可以学习到如何更好地解答特定的问题或完成特定的任务。

例如我们可以把行业，或者企业的专有知识构建出专有的数据集，然后再用数据集对大语言模型进行微调训练

上下文学习 (In-context learning)：在这种方式中，模型的训练和应用是同时进行的，模型会根据输入的上下文信息生成输出。这种方式不需要单独的预训练和微调阶段。模型在生成答案时会考虑所有的输入信息，包括问题和问题的上下文。例如，如果一个问题是“谁是美国的第一任总统？”并且上下文信息包括“乔治·华盛顿是美国的一位重要的历史人物”，那么模型可能就能够生成正确的答案“乔治·华盛顿”。通过这种方式，模型可以学习到如何根据上下文信息解答问题，而不仅仅是单独的问题。我们需要做的就是要把问题和答案预先搜索出来丢给大模型进行处理。

上下文学习 (In-context learning)：这种方式的关键技术是嵌入（Embedding）

嵌入通常指的是将现实世界的事物映射到多维空间中的向量的方法。例如，我们可以将图像映射到一个（64 x 64）维度的空间中，如果映射足够好，两个图像之间的距离可以反映它们的相似性。

嵌入的另一个例子是 word2vec 算法，它将每个单词都映射到一个向量中。例如，如果嵌入足够好，我们可以对它们进行加法和减法操作，可能会得到以下结果：

vec(apple) + vec(pie) ≈ vec(“apple apie”)，或者向量测量值 vec(apple) + vec(pie) - vec(“apple apie”) 趋近于 0：

|vec(apple) + vec(pie) - vec(“apple apie”)| ≈ 0

类似地，“pear” 应该比 “dinosaur” 更接近 “apple”：|vec(apple) - vec(pear)| < |vec(apple) - vec(dinosaur)|

我们可以搜索与给定问题更相关的书籍片段。基本过程如下：

1、将书籍分割为小片段，为每个片段创建嵌入并存储它们：这个步骤是信息预处理阶段，我们需要把大量的书籍文本信息转化为计算机可以理解和操作的形式。通常情况下，我们会将书籍文本分割为一小块一小块，比如章节、段落或者句子，这些就是“小片段”。然后，我们将对这些小片段进行嵌入编码，嵌入（Embedding）是一种将高维度的数据（例如文本）转化为低维度向量的方法，这种低维度向量能够表征原始数据的重要特征。最后，我们将这些嵌入向量存储起来。

2、当有一个问题时，计算问题的嵌入：当用户提出一个问题时，我们也会将这个问题进行嵌入编码，产生一个问题的嵌入向量。

3、通过计算距离找到与书籍片段最相似的前 K 个嵌入：在这一步，我们会计算问题的嵌入向量和存储的所有书籍片段的嵌入向量之间的距离，这个距离能够反映出问题和书籍片段的语义相似度。然后，我们选取与问题最相似的前K个书籍片段，这些片段可能包含着回答这个问题的信息。

4、使用问题和书籍片段构建提示：在选取了最相关的书籍片段后，我们会把问题和这些片段一起作为提示输入到大型语言模型(LLM)中。这种提示通常被设计成上下文形式，让模型能够理解问题并根据相关书籍片段生成答案。

5、使用提示查询 LLM：最后，我们将这些提示输入到LLM中，LLM将会根据这些提示生成一个答案，这个答案就是对用户问题的回应。

这个过程有效地结合了信息检索和深度学习两种方法，利用大型语言模型的强大生成能力，能够产生更好的回答。

这种方式存在的问题是对于一些非常宏观的知识问答，有些知识点非常分散，分散在大量的文档里面，例如，如果你想问的问题是关于全球气候变化的，相关的信息可能散布在数百万篇关于气候科学、地理学、政策、历史等各种主题的文章中。这种情况下，如果你的系统设计是只从最相关的前10个文档中获取信息，如果我们向量搜索的top key 只有10个，但是返回的知识点可能远远超过10个，这样我们系统输出的答案就会不全造成部分缺失甚至是错误

为了解决这个问题，传统的做法是创建组合索引和综合索引。这种方式的主要目的是扩大搜索范围，使系统能够从更多的文档中获取信息。

组合索引：在同一条记录中创建多个字段的索引，这样就可以根据多个字段同时进行搜索。这可以帮助我们更有效地找到与问题相关的文档。

综合索引：它将多个字段的值组合成一个索引，以便可以在一个操作中获取更多的相关信息。

此外，还可以使用其他几种索引方式，如向量存储（VectorStore）、摘要索引、树形索引等，这些都是用于改善信息检索效率和效果的工具。比如，摘要索引可能用于快速浏览文档的主要内容，而树形索引可以用于处理有层次或分类的数据。

使用知识图谱的方案

嵌入技术可以帮助我们理解和比较文档之间的相似性，而知识图谱则提供了一个将各种信息组织在一起的结构化方式。结合两者，我们可以对复杂的查询进行更好的处理。

知识图谱是一种以图形的方式表示信息的方法，其中每个节点代表一个实体，每条边代表两个实体之间的关系。在知识图谱中，信息是以"三元组"的形式存储的，比如"x -> y"表示"x"与"y"有某种关系。

例如：

我们正在处理一个与"x"相关的查询。我们首先通过嵌入技术找到了与"x"最相关的三个文档片段，它们在这里被称为节点1、节点2和节点96。然后，我们在知识图谱中对"x"进行了两次跳转查询，这就意味着我们查找了与"x"有直接关系，以及与"x"有间接关系的所有实体。这样，我们就得到了一些额外的上下文信息，这些信息都与"x"相关。

例如，我们找到了如下的三元组：

“x -> y”，表示"x"与"y"有某种关系，这个信息来自于节点1。

“x -> a”，表示"x"与"a"有某种关系，这个信息来自于节点2。

“x <- b -> c”，表示"b"与"c"有某种关系，并且"b"与"x"也有某种关系，这个信息来自于节点95。

这些三元组提供了关于"x"的额外上下文信息，可以帮助我们更好地回答关于"x"的查询。

这样我们把在知识图谱查到的上下问信息再拿到向量数据库做相似度匹配，我们就能够搜索到更多的有用信息，然后再把这些信息丢给大模型进行处理，我们就能够得到更准确的答案。

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！