知识图谱增强的RAG(KG-RAG)详细解析

江湖人称麻花滕

于 2024-08-10 10:45:00 发布

阅读量658

点赞数 17

文章标签：百度人工智能 llama 文心一言机器学习

本文链接：https://blog.csdn.net/m0_59235699/article/details/141071523

版权

KG-RAG 表示基于知识图谱的RAG(Retrieval Augmented Generation)检索增强.

先看一下KG-RAG的视频

这是一个与任务无关的框架，它将知识图谱（KG）的显性知识与大型语言模型（LLM）的隐含知识结合起来。这是该工作的arXiv预印本 https://arxiv.org/abs/2311.17330 。

我们在这里利用一个名为SPOKE(https://spoke.ucsf.edu/)的大规模生物医学知识图谱作为生物医学背景的提供者。SPOKE已经整合了来自不同领域的40多个生物医学知识库，每个知识库都专注于生物医学概念，如基因、蛋白质、药物、化合物、疾病及其相关连接。

SPOKE由21种不同类型的超过2700万个节点和55种类型的5300万条边组成（https://doi.org/10.1093/bioinformatics/btad080）。

KG-RAG的主要特点是从SPOKE KG中提取“提示感知上下文”，其定义为：足以回答用户提示的最小上下文。

因此，这个框架通过从生物医学KG中获得的优化领域特定的“提示感知上下文”，赋予了一个通用型的LLM更强大的功能。

KG-RAG用户案例

下面的片段显示了FDA网站上关于由

FDA(https://www.fda.gov/drugs/news-events-human-drugs/fda-approves-treatment-weight-management-patients-bardet-biedl-syndrome-aged-6-or-older)批准用于巴代特-畢迪二氏综合征患者的减重药物“setmelanotide”的信息。

询问 GPT-4 关于上述药物：

没有KG-RAG

注意：此示例是使用KG-RAG v0.3.0运行的。我们是通过终端来启动GPT，而不是通过chatGPT浏览器。分析中的温度参数设置为0。参考此yaml文件进行参数设置，包括KG-RAG。

有KG-RAG

注意：此示例是使用KG-RAG v0.3.0运行的。分析过程中，温度参数设置为0。有关参数设置，请参阅此yaml文件。

你可以看到，KG-RAG能够提供关于FDA批准药物的正确信息。

如何运行KG-RAG

注意：目前，KG-RAG专门为与疾病相关的提示运行而设计。我们正在积极努力改进其多功能性。

Step 1: 克隆repo

克隆此存储库。所有论文中使用的生物医学数据已上传到此存储库，因此您无需单独下载。

Step 2: 创建一个虚拟环境

注意：本存储库中的脚本是在Python 3.10.9版本下运行的。

conda create -n kg_rag python=3.10.9  
conda activate kg_rag  
cd KG_RAG

Step 3: 安装依赖项

`pip install -r requirements.txt`

Step 4: 更新config.yaml

config.yaml保存了运行您机器上的脚本所需的所有必要信息。请确保相应地填充此yaml文件。

注意：还有另一个名为system_prompts.yaml的yaml文件。它已经填充好，并保存了KG-RAG框架中使用的所有系统提示。

Step 5: 运行设置脚本

注意：确保您位于KG_RAG文件夹中

设置脚本以交互方式运行。

运行设置脚本将：

1.为KG-RAG创建疾病向量数据库

2.在您的机器上下载Llama模型（可选，您可以跳过此步骤，完全没有问题）

python -m kg_rag.run_setup

Step 6: 从重点运行KG-RAG

注意：确保你处于KG_RAG文件夹中

你可以使用GPT和Llama模型来运行KG-RAG。

用GPT

python -m kg_rag.rag_based_generation.GPT.text_generation -g <your favorite gpt model - "gpt-4" or "gpt-35-turbo">

示例：注意：以下示例在AWS p3.8xlarge EC2实例上运行，并使用KG-RAG v0.3.0。

用GPT的交互模式

这使用户可以以交互式方式逐步完成整个过程。

python -m kg\_rag.rag\_based\_generation.GP`T.text_generation -i True -g <your favorite gpt model - "gpt-4" or "gpt-35-turbo">`

用Llama

注意：如果您在安装设置步骤时没有下载Llama，那么当您运行下面的命令时，可能需要一些时间，因为它首先会下载模型。

python -m kg_rag.rag_based_generation.Llama.text_generation -m <method-1 or method2, if nothing is mentioned it will take 'method-1'>

示例

注意：以下示例是在AWS p3.8xlarge EC2实例上运行，并使用KG-RAG v0.3.0。

用Llama交互模式

这样做可以让用户以互动方式逐步完成整个过程。

python -m kg_rag.rag_based_generation.Llama.text_generation -i True -m <method-1 or method2, if nothing is mentioned it will take 'method-1'>

引用

@article{soman2023biomedical,  
  title={Biomedical knowledge graph-enhanced prompt generation for large language models},  
  author={Soman, Karthik and Rose, Peter W and Morris, John H and Akbas, Rabia E and Smith, Brett and Peetoom, Braian and Villouta-Reyes, Catalina and Cerono, Gabriel and Shi, Yongmei and Rizk-Jackson, Angela and others},  
  journal={arXiv preprint arXiv:2311.17330},  
  year={2023}  
}

SPOKE KG可以通过以下链接访问：

https://spoke.rbvi.ucsf.edu/neighborhood.html。也可以使用REST-API访问

（https://spoke.rbvi.ucsf.edu/swagger/）。

KG-RAG代码可在

https://github.com/BaranziniLab/KG_RAG 下载。本研究中使用的生物医学数据集（一跳问题、两跳问题、真假问题、多选题问题、药物重新定位问题、SPOKE KG中的疾病上下文）可供研究界使用，位于同一GitHub存储库中。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述