知识图谱实战导论：从什么是KG到LLM与KG/DB的结合实战

前言

本文侧重讲解：

• 什么是知识图谱
• LLM与langchain/数据库/知识图谱的结合应用
  比如，虽说基于知识图谱的问答 早在2019年之前就有很多研究了，但谁会想到今年KBQA因为LLM如此突飞猛进呢

第一部分 知识图谱入门导论

1.1 什么是知识图谱

为了写本第一部分的图谱入门导论，我特意看了下七月在线的知识图谱入门实战的所有课件，对于快速梳理 非常不错，因此本部分2/3的内容都来自该课程，更多细节可以看原课程

1.1.1 实体、关系

知识图谱是⼀种基于图的数据结构，由节点(point)和边(Edge)组成，每个节点表示⼀ 个“实体” ，每条边为实体与实体之间的“关系” ，知识图谱本质上是语义⽹络

• 实体指的可以是现实世界中的事物，⽐如⼈、地名、公司、电话、动物等
• 关系则⽤来表达不同 实体之间的某种联系

由下图，可以看到实体有地名和⼈；⼤理属于云南、⼩明住在⼤理、⼩明和⼩秦是朋友，这些都是实体与实体之间的关系

在现实世界中，实体和关系也会拥有各⾃的属 性，⽐如⼈可以有“姓名”和“年龄”，注意：其实“姓名”也是⼀种属性

总之，知识图谱就是把所有不同种类的信息连接在⼀起⽽得到的⼀个关系⽹络，因此知识图谱提供了从“关系” 的⻆度去分析问题的能⼒

1.1.2 知识图谱概览、业务理解、图谱设计

// 待更

1.1.3 知识抽取、知识表示、知识存储/链接/融合

// 待更

1.1.4 知识图谱的部分应用案例

// 待更

1.2 知识的存储与检索

// 待更

---

第二部分 LLM与知识图谱的结合

2.1 LLM为何要与知识图谱相结合

通过本文之前或本博客内之前的内容可知，由于大部分LLM都是基于过去互联网旧的预训练语料训练、推理而来，由此会引发两大问题

1. 无法获取最新的知识，为解决这个问题，ChatGPT plus版一开始是通过引入bing搜索这个插件去获取最新知识(不过 现因商业问题而暂时下架)，而ChatGPT的竞品Claude则通过更新其预训练的数据 比如2013年的数据
2. 面对少部分专业性比较强的问题，没法更好的回答，有时推理时会犯一些事实性的知识错误

面对第二个问题，我们在上文已经展示了可以通过与langchain结合搭建本地知识库的办法解决，此外，还可以考虑让LLM与知识图谱结合

• 知识图谱能以三元组(即头实体、关系、尾实体)的形式存储结构化知识，因此知识图谱是一种结构化和决断性的知识表征形式，例子包括 Wikidata、YAGO 和 NELL
• 知识图谱能提供准确、明确的知识，且还具有很棒的符号推理能力，这能生成可解释的结果
• 知识图谱还能随着新知识的持续输入而积极演进。当然 知识图谱本身也有其不足，比如泛化能力不足

根据所存储信息的不同，现有的知识图谱可分为四大类：百科知识型知识图谱、常识型知识图谱、特定领域型知识图谱、多模态知识图谱

 而下图总结了 LLM 和知识图谱各自的优缺点

 而实际上，LLM与知识图谱可以互相促进、增强彼此

• 如果用知识图谱增强 LLM，那么知识图谱不仅能被集成到 LLM 的预训练和推理阶段，从而用来提供外部知识，还能被用来分析 LLM 以提供可解释性
• 而在用 LLM 来增强知识图谱方面，LLM 已被用于多种与知识图谱相关的应用，比如知识图谱嵌入、知识图谱补全、知识图谱构建、知识图谱到文本的生成、知识图谱问答。LLM 能够提升知识图谱的性能并助益其应用

总之，在 LLM 与知识图谱协同的相关研究中，研究者将 LLM 和知识图谱的优点融合，让它们在知识表征和推理方面的能力得以互相促进

2.2 用知识图谱增强 LLM的预训练、推理、可解释性

今年6月份，一篇论文《Unifying Large Language Models and Knowledge Graphs: A Roadmap》指出，用知识图谱增强 LLM具体的方式有几种 

1. 一是使用知识图谱增强 LLM 预训练，其目的是在预训练阶段将知识注入到 LLM 中
2. 二是使用知识图谱增强 LLM 推理，这能让 LLM 在生成句子时考虑到最新知识
3. 三是使用知识图谱增强 LLM 可解释性，从而让我们更好地理解 LLM 的行为

下表总结了用知识图谱增强 LLM 的典型方法

2.2.1 使用知识图谱增强 LLM 预训练

现有的 LLM 主要依靠在大规模语料库上执行自监督训练。尽管这些模型在下游任务上表现卓越，它们却缺少与现实世界相关的实际知识。在将知识图谱整合进 LLM 方面，之前的研究可以分为三类：

• 将知识图谱整合进训练目标
  如下图所示，通过文本 - 知识对齐损失将知识图谱信息注入到 LLM 的训练目标中，其中 h 表示 LLM 生成的隐含表征

  

• 将知识图谱整合进 LLM 的输入
  如下图所示，使用图结构将知识图谱信息注入到 LLM 的输入中

  

• 将知识图谱整合进附加的融合模块
  如下图所示，即通过附加的融合模块将知识图谱整合到 LLM 中

  

2.2.2 用知识图谱增强 LLM 推理

上文的方法可以有效地将知识与LLM中的文本表示进行融合。但是，真实世界的知识会变化，这些方法的局限是它们不允许更新已整合的知识，除非对模型重新训练。因此在推理时，它们可能无法很好地泛化用于未见过的知识(比如ChatGPT的预训练数据便截止到的2021年9月份，为解决这个知识更新的问题，它曾借助接入外部插件bing搜索去解决)

所以，相当多的研究致力于保持知识空间和文本空间的分离，并在推理时注入知识。这些方法主要关注的是问答QA任务，因为问答既需要模型捕获文本语义，还需要捕获最新的现实世界知识，比如

• 融合动态知识图谱用于LLM推理
  具体而言，一种直接的方法是利用双塔架构，其中一个分离的模块处理文本输入，另一个处理相关的知识图谱输入。然而，这种方法缺乏文本和知识之间的交互
  因此，KagNet建议首先对输入的KG进行编码，然后增强输入的文本表示。相比之下，MHGRN使用输入文本的最终LLM输出来指导推理
  
  再比如，JointLK提出了一个框架，通过LM-to-KG和KG-to- lm双向注意机制，在文本输入中的任何tokens和任何KG实体之间进行细粒度交互(JointLK then proposes a framework with fine-grainedinteraction between any tokens in the textual inputs and anyKG entities through LM-to-KG and KG-to-LM bi-directionalattention mechanism)
  如下图所示，在所有文本标记和KG实体上计算成对点积分数，分别计算双向注意分数(pairwise dot-product scores are calculated over all textual tokens and KGentities, the bi-directional attentive scores are computed sep-arately)

  

• 通过检索外部知识来增强 LLM 生成

  

 更多细节在我司的langchain实战课程上见

2.2.3 用知识图谱增强 LLM 可解释性

// 待更..

2.3 用LLM增强知识图谱

// 待更..

2.4 LLM与知识图谱的协同

// 待更..

2.5 LLM结合KG的项目实战：知识抽取KnowLM

KnowLM是一个结合LLM能力的知识抽取项目，其基于llama 13b利用自己的数据+公开数据对模型做了pretrain，然后在pretrain model之上用指令语料做了lora微调，最终可以达到的效果如下图所示 (图源)，当面对同一个输入input时，在分别给定4种不同指令任务instruction时，KnowLM可以分别得到对应的输出output

​下图展示了训练的整个流程和数据集构造。整个训练过程分为两个阶段：

1. 全量预训练阶段，该阶段的目的是增强模型的中文能力和知识储备
2. 使用LoRA的指令微调阶段，该阶段让模型能够理解人类的指令并输出合适的内容

​2.5.1 预训练数据集构建与训练过程

• 为了在保留原来的代码能力和英语能力的前提下，来提升模型对于中文的理解能力，他们并没有对词表进行扩增，而是搜集了中文语料、英文语料和代码语料，其中
  ​  中文语料来自于百度百科、悟道和中文维基百科
  ​  英文数据集是从LLaMA原始的英文语料中进行采样，不同的是维基数据，原始论文中的英文维基数据的最新时间点是2022年8月，他们额外爬取了2022年9月到2023年2月，总共六个月的数据
  ​  而代码数据集，由于Pile数据集中的代码质量不高，他们去爬取了Github、Leetcode的代码数据，一部分用于预训练，另外一部分用于指令微调
  对上面爬取到的数据集，他们使用了启发式的方法，剔除了数据集中有害的内容，此外，我们还剔除了重复的数据
• 详细的数据处理代码和训练代码、完整的训练脚本、详细的训练情况可以在./pretrain找到
  
  在训练之前，首先需要对数据进行分词。他们设置的单个样本的最大长度是1024，而大多数的文档的长度都远远大于这个长度，因此需要对这些文档进行划分。设计了一个贪心算法来对文档进行切分，贪心的目标是在保证每个样本都是完整的句子、分割的段数尽可能少的前提下，尽可能保证每个样本的长度尽可能长
  此外，由于数据源的多样性，设计了一套完整的数据预处理工具，可以对各个数据源进行处理然后合并
  最后，由于数据量很大，如果直接将数据加载到内存，会导致硬件压力过大，于是他们参考了DeepSpeed-Megatron，使用mmap的方法对数据进行处理和加载，即将索引读入内存，需要的时候根据索引去硬盘查找
  
  最后在5500K条中文样本、1500K条英文样本、900K条代码样本进行预训练。他们使用了transformers的trainer搭配Deepspeed ZeRO3 (实测使用ZeRO2在多机多卡场景的速度较慢)，在3个Node(每个Node上为8张32GB V100卡)进行多机多卡训练。下表是训练速度：

  参数	值
  micro batch size（单张卡的batch size大小）	20
  gradient accumulation（梯度累积）	3
  global batch size（一个step的、全局的batch size）	20*3*24=1440
  一个step耗时	260s

2.5.2 指令微调数据集构建与指令微调训练过程

• 在目前千篇一律的模型中，除了要加入通用的能力（比如推理能力、代码能力等），还额外增加了信息抽取能力（包括NER、RE、EE）。需要注意的是，由于许多开源的数据集，比如alpaca数据集 CoT数据集 代码数据集都是英文的，因此为了获得对应的中文数据集，对这些英文数据集使用GPT4进行翻译
  
  有两种情况：
  1. 直接对问题和答案进行成中文
  2. 将英文问题输入给模型，让模型输出中文回答
  
  对通用的数据集使用第二种情况，对于其他数据集如CoT数据集 代码数据集使用第一种情况
  
  对于信息抽取(IE)数据集，英文部分，使用CoNLL ACE CASIS等开源的IE数据集，构造相应的英文指令数据集。中文部分，不仅使用了开源的数据集如DuEE、PEOPLE DAILY、DuIE等，还采用了他们自己构造的KG2Instruction，构造相应的中文指令数据集
  具体来说，KG2Instruction(InstructIE)是一个在中文维基百科和维基数据上通过远程监督获得的中文信息抽取数据集，涵盖广泛的领域以满足真实抽取需求
  
  此外，他们额外手动构建了中文的通用数据集，使用第二种策略将其翻译成英文。最后我们的数据集分布如下：

  数据集类型	条数
  COT（中英文）	202,333
  通用数据集（中英文）	105,216
  代码数据集（中英文）	44,688
  英文指令抽取数据集	537,429
  中文指令抽取数据集	486,768

• KG2Instruction及其他指令微调数据集

  ​编辑​

• 目前大多数的微调脚本都是基于alpaca-lora，因此此处不再赘述，另详细的指令微调训练参数、训练脚本可以在./finetune/lora找到

附录

•  https://github.com/zjunlp/KnowLM
• https://github.com/kaixindelele/ChatSensitiveWords
  利用LLM+敏感词库，来自动判别是否涉及敏感词
• https://github.com/XLabCU/gpt3-relationship-extraction-to-kg
• https://github.com/niris/KGExtract/blob/main/get_kg.py
• https://github.com/semantic-systems/coypu-LlamaKGQA/blob/main/knowledge_graph_coypu.py
• https://github.com/xixi019/coypu-LlamaKGQA
• https://github.com/jamesdouglaspearce/kg-llama-7b
• https://github.com/zhuojianc/financial_chatglm_KG

另外，这是：关于LLM与知识图谱的一席论文列表

---

第三部分 LLM与数据库的结合：DB-GPT

GitHub - eosphoros-ai/DB-GPT: Revolutionizing Database Interactions with Private LLM Technology

3.1 DB-GPT的架构：用私有化LLM技术定义数据库下一代交互方式

DB-GPT基于 FastChat 构建大模型运行环境，并提供 vicuna 作为基础的大语言模型。此外，通过LangChain提供私域知识库问答能力，且有统一的数据向量化存储与索引：提供一种统一的方式来存储和索引各种数据类型，同时支持插件模式，在设计上原生支持Auto-GPT插件，具备以下功能或能力

1. 根据自然语言对话生成分析图表、生成SQL
2. 与数据库元数据信息进行对话, 生成准确SQL语句
3. 与数据对话, 直接查看执行结果
4. 知识库管理(目前支持 txt, pdf, md, html, doc, ppt, and url)
5. 根据知识库对话, 比如pdf、csv、txt、words等等
6. 支持多种大语言模型, 当前已支持Vicuna(7b,13b), ChatGLM-6b(int4,int8), guanaco(7b,13b,33b), Gorilla(7b,13b), llama-2(7b,13b,70b), baichuan(7b,13b)

整个DB-GPT的架构，如下图所示(图源)

​3.2 DB-GPT的应用 

通过QLoRA(4-bit级别的量化+LoRA)的方法，用3090在DB-GPT上打造基于33B LLM的个人知识库

// 待更

更多课上见：七月LLM与langchain/知识图谱/数据库的实战 [解决问题、实用为王]

---

参考文献与推荐阅读

2. LangChain 中文入门教程
3. 大型语言模型与知识图谱协同研究综述：两大技术优势互补
4. csunny/DB-GPT，DB-GPT 👏👏 0.3.8
5. 关于KBQA的一系列论文：RUCAIBox / Awesome-KBQA
6. 七月LLM与langchain/知识图谱/数据库的实战 [解决问题、实用为王]