知识图谱和大语言模型

相同点

本质上两者都是一种知识库，作为参数化知识库的大模型与形式化知识库的知识图谱之间可以通过prompt作为桥梁进行互相转化；在实时性和时效性上面临的挑战一致：大模型遇到的事实性错误和时效性，知识图谱同样存在，知识图谱也需要解决知识更新（有区别）什么样知识应该用大模型（知识图谱），怎样界定知识的问题。知识图谱如果不能保证非结构化数据源的正确性，到后面注定会发生事实性错误。如果大模型创造出大量的内容之后，并作为数据源导入到知识图谱当中，会影响知识图谱的准确性

不同点

知识图谱是一种知识的形式化表示方法，大模型是参数化的知识。知识图谱优势在于方便调试，人可理解，图结构表达能力强。大模型就是无所不能。此外，知识图谱具有双层结构，其本体层，对领域知识有个很好的建模和规范组织。在推理场景中，结构化知识很难构建（因为要设计知识的结构体系），但易于推理（因为有体系结构），非结构化知识易于构建，但很难用于推理

知识更新

对于知识图谱，包括概念层的更新与数据层的更新。概念层的更新是指新增数据后获得了新的概念，需要自动将新的概念添加到知识库的概念层中。数据层的更新主要是新增或更新实体、关系、属性值，对数据层进行更新需要数据源的可靠性、数据的一致性（是否存在矛盾或冗余等问题）等可靠数据源，并选择在各数据源中高频出现的事实和属性加入知识库

知识图谱应用于大模型

大模型最大的优势在于其通用能力，即zero-shot和few-shot能力，可以作为一个统一系统完成统一信息抽取任务，加速不同任务的统一处理。

大模型当前存在的一些问题

目前大模型最大的问题就是不确定性以及预训练阶段语料的局限性，由此会出现包括时效性、事实性以及“不合规”性等问题

• 可能写出看似合理但不正确或荒谬的答案：这可能是训练时没有真实来源，导致生成错误信息，或者训练模型谨慎性的提高导致它拒绝可以回答正确的问题监督训练误导模型；
• 对输入措辞的调整或多次尝试相同的提示很敏感：给定一个问题的措辞，模型可以声称不知道答案，但只要更换提问的方式，就可以正确回答
• 生成偏向：该模型通常过于冗长并过度使用某些短语，模型努力使模型拒绝不当请求，但是有时候会响应有害指令或表现出有偏见的行为，这属于“合规方面”的问题
• 在符号形式的推理任务上，建模效果还不是特别好
• 在知识统一表示上，业务知识梳理和沉淀上建模性较差
• 不知是否可信，也不可解释

知识图谱的优势

• 知识图谱可以为关键词扩充、领域精准问答、实体扩展等提供一手数据来源
• 知识图谱可以作为一个行业专家系统，一个专业的强规则库进行权威指导
• 知识图谱中的图结构多条信息，可以完成多跳推理、隐藏关系发现等任务，知识图谱足够直观，足够醒目，可以作为现象的机理分析和可解释
• 知识图谱作为一个领域的知识建模规范，可用于知识系统联合

知识图谱应用于大模型的几个阶段

1）训练前阶段

大模型在训练前需要做大量的数据收集、整理、清洗等操作，其中存在质量、多样性以及规模上等多个问题，可以利用知识图谱进行数据清洗，其作为领域经验知识对特定语料进行错误检测或过滤；利用知识图谱直接显式的进行形式化拼接，引入预训练语料

2）训练阶段

大模型在训练过程中，效果取决于所采用的模型架构、训练时间以及训练算力，引入知识图谱可以增强模型的有效性。将知识图谱隐式地加入到模型训练中，ERNIR在预训练模型中，将知识图谱中实体的表示融入文本表示；知识嵌入（KE）+MLM联合训练+隐式地将知识融入语言表示模型中。构建以领域知识图谱为中心的下游评测任务，作为模型训练评估闭环

怎样把知识图谱中的知识组织给大模型学习

3）后处理阶段

4）推理阶段（重点）（分类，子类，特点，怎么用）

进行常识推理需要常识知识，而预训练语言模型隐含了大量的知识，可以直接作为常识推理的推理模型，整合外部知识库可以提高其中一些任务的性能

使用知识模型根据问题生成一些知识陈述，其中每个知识陈述是一个变长文本序列，每个陈述都包含了与问题相关的信息。外部知识引入形式包括Random sentences/template-based/retrival-based等，根据问题和知识陈述，来使用推理模型来预测答案

cot tot 外部知识规范推理过程

大模型在训练好之后，如何结合实际场景，用好prompt，更大地激发大模型的能力

为解决生成“胡说八道”，在构造prompt时，作为先验知识进行prompt前约束，增强结果可控性。或对模型生成后的结果进行约束，减少模型事实性错误

为解决领域生成局限性现象，在构造prompt时，引入涉及实体的上下文进行丰富，增强结果可用性

为解决大模型实时性问题，通过query实体消歧和实体链接，优化搜索引擎实时结果，增强生成准确性

大模型会生成大量虚假信息，作为下游的知识图谱，需要对大模型进行虚假鉴定。基于知识图谱，为大模型生成提供可解释方案

例如，将知识图谱用于大模型训练后阶段——融合自迭代的知识描述以增强尝试推理能力

例子：KAPING框架

该工作提出了直接在LLM的输入中增加知识的想法，可以用任何现成的LLMs来完成，不需要额外的训练

在思想上，首先根据问题和相关事实之间的语义相似性，从知识图谱中检索出与输入问题相关的事实。然后，将检索到的事实以提示的形式添加到输入问题中，然后将其转发给LLM以生成答案。

优点：无需额外训练；保持LLM的参数不变；知识更新不需要进行微调

局限性：知识扩充框架的生成性能主要取决于检索器的效能，如果检索器未能检索到与输入问题相关的事实，那么在不相关事实的条件下，提示的LLM可能会产生不正确的答案；对提示的LLM的生成性能的评价指标需要进一步改进；

论文：Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering

论文1：

Prompting Large Language Models with Answer Heuristics for Knowledge-based Visual Question Answering

使用冻结 GPT-3 模型的三个基于知识的 VQA 框架的概念比较。虽然 PICA、KAT和 REVIVE直接将标题 (C) 和问题 (Q) 作为提示输入 GPT-3，但我们认为它们为 GPT-3 提供的信息不充分，因此不能完全激活 GPT-3 的潜力。相比之下，我们的 Prophet 学习了一个没有外部知识的普通 VQA 模型来产生答案启发式，这赋予 GPT-3 更丰富和更特定于任务的信息来预测答案

模型架构

Prophet 框架有两个阶段：答案启发式生成和启发式增强提示。在启发式答案生成阶段，使用在基于知识的 VQA 数据集上训练的普通 VQA 模型生成两种类型的启发式答案，即候选答案和已知答案示例。在启发式增强提示阶段，答案启发式、问题和标题被集成到格式化提示中，以指示 GPT-3 预测答案。

数据集

实验主要结果

论文2：

Check Your Facts and Try Again: Improving Large Language Models with External Knowledge and Automated Feedback∗

实验任务1—信息搜索对话

数据集

评估指标

实验结果

实验任务2—Wiki QA

数据集

评估指标

实验结果

名称	LLMs	外部知识库
KAPING	T5，OPT，GPT-3，T0，AlexaTM	知识图谱
QA-GNN	roberta-large	知识图谱
LLM-AUGMENTER	ChatGPT	news，wiki，数据库

论文3：

Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering

主要创新点：

• 提出了新的知识增强LM提示框架，利用KG的事实知识进行zero-shot QA
• 根据问题及其相关三元组之间的语义相似性从知识图谱中检索和增强相关事实
• 在KGQA基准数据集上验证了该框架，明显优于相关的zero-shot基线

数据集：

WebQuestionsSP (WebQSP) ：该数据集是使用 Freebase KG设计的。它由 1,639 个测试样本组成，我们将其用于zero-shot评估。此外，由于 Freebase 已经过时，我们通过使用从 Freebase ids 到 Wikidata 的可用映射来进一步使用 Wikidata KG）。此附加数据集包含 1,466 个样本。

Mintaka：该数据集最近是使用 Wikidata KG 设计的，用于复杂的 KGQA 任务。在 8 种不同的语言中，我们使用由 4,000 个样本组成的英语测试集。

LLMs：

不同基线：

No Knowledge：最基本的LM提示基线，根据输入问题生成答案，无需通过KG进行知识增强

Random Knowledge：另外将与问题中出现的实体相关联的随机采样的 K 三元组增强到提示。

Popular Knowledge：它基于 KG 中出现最频繁的关系，在问题实体的所有三元组中增强 K 个流行三元组。

Generated Knowledge：它首先根据提示从LLM本身提取知识，然后将其增强为提示的形式。

KAPING：它首先用知识检索器检索与问题相似的top-K三元组，然后将它们增强为提示的形式

评估指标：

Generation：遵循生成式 KGQA 的评估协议，使用准确性，它衡量给定提示生成的标记是否包含答案之一实体。请注意，我们进一步考虑 Freebase 和 Wikidata KG 中可用的答案实体的别名（一组替代名称）以进行评估

Retrieval：检索到的三元组对答案生成有多大帮助。作为指标，我们使用平均倒数排名 (MRR) 和 Top-K 准确率 (Top-K)，它们是通过与问题实体关联的所有三元组中包含答案实体的正确检索到的三元组的排名来计算的。

实验结果：

总结

本文重点关注LM 提示方案的局限性，LM依赖于参数化的内部知识，但是当这些知识不完整、不准确和过时时，就生成事实上不正确的答案。因此，本文提出一种新的知识增强语言模型KAPING框架，直接在LLMs的输入提示中增强来自知识图谱的输入问题的知识，并使用事实检索器仅注入相关知识。同时该框架完全是zero-shot，并且适用于任何LM，且无需额外的参数更新和训练数据集

局限性：

• 该框架生成性能很大程度上取决于检索器的效率，如果检索器未检索到与输入问题相关的事实，LLM就会以不相关的事实未条件，很可能生成错误的答案
• 在评估模型的时使用KGQA数据集中的标记实体，但是在现实应用中，问题中的实体大多没有提供，所以首先需要利用现有的实体链接技术提取问题中的实体，因此模型性能也取决于实体链接的有效性

问题：

其实很多问题他的答案可能并不是那么直接，需要在知识图谱中进行多跳的推理才能得到答案，但是该框架从知识图谱中检索出来的三元组基本都是与问题实体直接相连的一跳三元组事实，那么此时的三元组是否也是对大模型的一种误导呢

论文4：

QA-GNN: Reasoning with Language Models and Knowledge Graphs for Question Answering

主要创新点：

• 相关性评分：通过将实体与 QA 上下文连接并使用预训练的 LM 计算可能性来对 KG 子图上的每个实体进行评分。
• 联合推理：设计了 QA 上下文和 KG 的联合图表示，其中明确地将 QA 上下文视为附加节点（QA 上下文节点）并将其连接到 KG 子图中的主题实体。用相关性得分来增强每个节点的特征，并设计一个新的基于注意力的 GNN 模块进行推理。在工作图上的联合推理算法同时更新 KG 实体和 QA 上下文节点的表示，从而弥合了两个信息源之间的差距。

框架结构

数据集：

CommonsenseQA ：是一项 5 路多项选择 QA 任务，需要用常识知识进行推理，包含 12,102 个问题。 CommonsenseQA 的测试集不公开，模型预测只能通过官方排行榜每两周评估一次。因此，我们对 Lin 等人使用的内部（IH）数据分割进行了主要实验。 并报告最终系统在官方测试集上的得分。

OpenBookQA： 是一项 4 路多项选择 QA 任务，需要用基础科学知识进行推理，包含 5,957 个问题。我们使用 Mihaylov 和 Frank 的官方数据拆分。

MedQA-USMLE ：是一项 4 路多项选择 QA 任务，需要生物医学和临床知识。这些问题最初来自美国医疗执照考试 (USMLE) 的模拟测试。该数据集包含 12,723 个问题。我们使用 Jin 等人的原始数据分割。

知识图谱：

对于 CommonsenseQA 和 OpenBookQA，我们使用通用领域知识图谱ConceptNet 作为我们的结构化知识源 G。它总共有 799,273 个节点和 2,487,810 条边。节点嵌入是使用 Feng 等人准备的实体嵌入来初始化的。它将预训练的 LM 应用于 ConceptNet 中的所有三元组，然后获得每个实体的池表示。

对于 MedQA-USMLE，我们使用自行构建的知识图谱，该知识图谱集成了统一医学语言系统和 DrugBank的疾病数据库部分。知识图谱包含 9,958 个节点和 44,561 条边。节点嵌入是使用 SapBERT 实体名称的池化表示来初始化的。

基线：

Fine-tuned LM：为了研究 KG 的作用，我们与不使用 KG 的普通微调 LM 进行比较。我们使用 RoBERTa-large 进行 CommonsenseQA，使用 RoBERTa-large 和 AristoRoBERTa2 进行 OpenBookQA。对于 MedQA-USMLE，我们使用最先进的生物医学 LM，SapBERT。

现有的LM+KG模型：它们与本文方法共享相同的高级框架，但使用不同的模块来代替 QA-GNN 在 KG 上进行推理： (1) 关系网络 (RN)，（2）RGCN，（3）GconAttn，（4）KagNet，以及(5) MHGRN。 (1)、(2)、(3) 是知识图谱的关系感知 GNN，(4)、(5) 是知识图谱中的进一步模型路径。 MHGRN是该LM+KG框架下现有的顶级性能模型。为了公平比较，我们在所有基线和模型中使用相同的 LM。 QA-GNN 与这些之间的主要区别在于它们不执行相关性评分或与 QA 上下文的联合更新

实验结果：

总结：

提出了 QA-GNN，这是一种利用 LM 和 KG 的端到端问答模型。关键创新包括（i）相关性评分，我们根据给定的 QA 上下文计算知识图谱节点的相关性，以及（ii）对 QA 上下文和知识图谱进行联合推理，我们通过工作图连接两个信息源，并通过 GNN 消息传递共同更新它们的表示。通过定量和定性分析，我们展示了 QA-GNN 在问答任务上相对于现有 LM 和 LM+KG 模型的改进，以及其执行可解释和结构化推理的能力，例如正确处理问题中的否定。