GraphRAG = 知识图谱 + RAG，优化全局搜索+局部搜索，以及部署指南

已于 2024-12-05 10:53:38 修改
阅读量6.4k 收藏 51
点赞数 23
分类专栏： # 知识图谱RAG：精准可信 医疗大模型研发 + 慢病逆转 文章标签： 知识图谱 人工智能
于 2024-07-01 09:25:39 首次发布
1
本文链接：https://blog.csdn.net/qq_41739364/article/details/140091599
版权

GraphRAG = 知识图谱 + RAG，优化全局搜索+局部搜索，以及部署指南

论文：From Local to Global: A Graph RAG Approach to Query-Focused Summarization

代码：https://github.com/microsoft/graphrag

提出背景

传统的RAG方法适用于局部文本检索任务，但不适用于全局性的查询聚焦摘要任务。

传统的RAG方法局部文本检索：

医生需要了解某个药物在治疗某种疾病时的具体副作用。使用RAG方法，系统会从数据库中检索相关的文档片段，然后生成一个包含这些副作用的回答。

这种方法非常有效，因为问题是具体的，答案可以从局部的文档片段中提取。

全局性的查询聚焦摘要任务：

医院希望对某种疾病的治疗效果进行全面评估，包括各种治疗方法的效果、副作用、患者满意度等信息。

这个任务需要从大量的文档中提取相关的信息，并对其进行整合和总结。

GraphRAG 是一种复杂的信息检索和生成方法，使用知识图谱和大型语言模型(LLM)来处理复杂查询。

GraphRAG的两个主要阶段：

  1. 构建图索引：

    • 实体知识图谱：从源文档中提取重要的元素，如人物、地点、事件等，这些被称为“实体”。这些实体通过它们之间的关系（例如，“工作于”或“位于”）连接起来，形成一个网络或图。
    • 图的其他元素：除了实体和关系，图还包括附加信息，如“声明”（即关于实体的陈述或属性），这有助于更好地理解和分类实体。

  2. 预生成社区摘要：

    • 社区检测：使用算法（如Leiden算法）分析图，找出紧密相关的实体群体。这些群体被称为“社区”，在这里，社区意味着一组相互紧密联系的实体和信息。
    • 生成社区摘要：每个社区的信息被提取并总结，这一步骤是自动完成的，利用大型语言模型来生成每个社区的摘要或概述。

查询处理：

  • 当提出一个查询（即一个问题或信息需求）时，系统不仅查找与这个查询直接相关的单个实体，而是在与查询相关的各个社区上运行，汇总所有相关社区的信息，生成一个全面的、针对该查询的“全局答案”。

GraphRAG 通过创建一个从文档中派生的、结构化的信息图，自动组织和总结这些信息，然后在需要时提供详尽的、上下文丰富的回答。

 

解法拆解

首先构建一个结构化的知识图谱，然后将其聚类成语义社区，并生成针对查询的总结，从而提供更全面和多样化的答案。

Graph RAG的核心思想是利用知识图谱作为上下文或事实信息源，以支持LLM进行更准确的信息提取和生成。

此外，Graph RAG还能够将实体和关系以图的形式展示。

通过实体提取、子图构造和上下文学习，能够有效地处理复杂的多跳问题，从而更好地理解和处理复杂的多跳问题，改进RAG系统效果与效率。
在这里插入图片描述
这幅图表概述了Graph RAG系统的工作流程：

  1. 源文档：

    • 文档经过处理，提取文本并划分为易于管理的块。

  2. 文本块：

    • 这些块经过针对领域的摘要处理，提炼出最相关的信息。

  3. 元素实例：

    • 摘要后，识别出特定的元素，如实体、关系和协变量。

  4. 元素摘要：

    • 这些元素再次进行领域定制的摘要。

  5. 社区检测：

    • 检测到的元素基于它们的关系和相关性被聚类成图社区。

  6. 社区摘要：

    • 对相关元素的每个社区进行摘要，提供简洁的概览。

  7. 社区答案：

    • 这些摘要被用来回答专注于社区上下文的特定查询。

  8. 全局答案：

    • 最终通过对社区答案进行摘要，产生一个全面的响应，提供对更广泛查询的综合回答。

 
医学应用场景：诊断罕见病症。

假设一个患者表现出一系列罕见且复杂的症状，医生需要对其进行详尽的诊断。

  1. 源文档：
  • 医学数据库、病历档案、最新的医疗研究报告等文档被系统处理，从中提取关键文本，如症状描述、治疗历史、临床研究结果等。
  1. 文本块：
  • 文本被划分为可管理的块，每块包含相关的医学信息，如具体症状、潜在诊断、治疗反应等。
  1. 元素实例：
  • 从每个文本块中提取关键的医学实体（如特定症状、药物、疾病名称），以及实体之间的关系（如症状与疾病之间的联系）。
  1. 元素摘要：
  • 对提取出的实体进行进一步的摘要处理，精炼信息以准备用于更高级的分析和推理。
  1. 社区检测：
  • 通过算法检测实体间的关联性，将相关的症状、疾病、治疗方法等聚类成多个图社区，每个社区表示一组可能相互关联的医学概念。
  1. 社区摘要：
  • 每个社区的实体和关系被总结，提供关于该社区主题的清晰概览，如一个社区可能聚焦于“自身免疫疾病”，而另一个可能聚焦于“遗传性疾病”。
  1. 社区答案：
  • 针对特定的医学查询（例如，“这些症状可能指示哪种罕见病？”），系统利用相关社区的摘要生成详细的回答。
  1. 全局答案：
  • 最后，系统整合各个社区答案的信息，生成一个全面的诊断报告，可能包括推荐的进一步检测、治疗方案及预后分析，为医生提供一份详细的临床决策支持文档。

通过这个流程，Graph RAG系统能够有效地从大量医学文本中提炼和总结关键信息，帮助医疗专业人员进行准确的诊断和治疗决策。

这种方法特别适用于那些涉及多系统症状或罕见疾病的复杂病例，需要综合广泛的医学知识和最新的研究数据。

 

目的： 支持对整个文本语料库的人类理解，用于医学研究和临床决策。

  • 类比： 类似于医学图像诊断系统，Graph RAG旨在通过整合和解析大量的医学文本数据（如临床研究、病例报告等），来帮助医生和研究者迅速准确地把握疾病信息，提高诊断的准确性和研究的效率。

解法： 利用图形结构的数据索引、迭代和动态的检索生成循环以及多层次的社区摘要生成，来优化信息检索和生成文本摘要的过程。

子解法1：利用图索引的数据结构

  • 特征： 自生成的图索引结构，有效组织数据。
  • 类比： 如电子健康记录系统（EHR）中的患者信息索引，Graph RAG通过图索引结构系统地整合和分类大量医学数据，使得相关信息能够快速被检索和关联，提高信息检索的效率和准确性。
  • 之所以使用图索引的数据结构，是因为图的模块化可以自然地组织复杂的医学数据，从而加快信息检索速度和提高信息关联度。

子解法2：迭代和动态的检索生成循环

  • 特征： 模块化系统支持迭代循环，优化查询结果。
  • 类比： 类似于医生对症状进行多轮诊断，每一轮诊断基于前一轮的检查结果深入探索，Graph RAG通过反复迭代生成和检索的循环，逐步优化和深化对查询问题的回答。
  • 之所以使用迭代和动态的检索生成循环，是为了持续优化查询的相关性和信息的全面性，确保最终生成的摘要信息既全面又精确。

子解法3：多层次的社区摘要生成

  • 特征： 基于社区的多层次摘要策略。
  • 类比： 类似于医学综述文章，从概括性的疾病描述到具体的治疗案例详细讲述，Graph RAG通过从不同层次生成摘要，提供从广泛到具体的多维度信息视角。
  • 之所以使用多层次的社区摘要生成，是因为不同层次的摘要可以满足从一般到特定的不同查询需求，提供不同深度的信息视角，帮助用户更好地理解复杂的医学问题。

这些子解法形成了一种链条的逻辑链，每个子解法都依赖于前一个解法的输出作为其输入，形成一个高效、层次分明的查询和分析流程，类似于医学诊断和研究中的步骤分解和逐级深入的方法。

Graph RAG 分析

问题1: 全局搜索与局部搜索的优化原理

全局搜索（Global Search）

  • 目的：全局搜索是为了理解和回答关于整个文档集的综合性问题，如“数据中的前N个主题是什么？”这类需要跨文档聚合信息的查询。

  • 优化原理：利用由大型语言模型（LLM）生成的社区报告，这些报告预先总结了数据集的语义结构。

    映射-归约：通过先分解数据为小块进行独立处理（映射），然后将结果汇总以形成综合响应（归约），有效地组织和分析大量信息。

    通过映射-归约（map-reduce）方式处理这些社区报告，先将它们分割为文本块（映射阶段），然后从这些块中选出重要点进行聚合（归约阶段），以形成对整体查询的响应。

    这种方法优化了信息的聚合，使其能更有效地处理跨文档的复杂查询。

局部搜索（Local Search）

  • 目的：局部搜索旨在理解和回答关于特定实体及其相关概念的详细问题。

  • 优化原理：通过识别与查询语义相关的实体集，并将这些实体及其关联概念作为搜索的起点。

    这种方法利用了知识图谱的结构化数据以及输入文档中的非结构化数据，为LLM在查询时提供更丰富的上下文。

    这样的处理增强了对特定实体的理解和推理能力，优化了针对特定问题的搜索效率。

问题2: 实体识别、实体关系抽取、社区聚类的误差传播问题

实体识别、实体关系抽取与社区聚类的挑战

  • 实体识别和实体关系抽取：这些步骤涉及从大量文本中自动识别出关键实体（如人名、地点等）以及它们之间的关系。

    这个过程本质上依赖于语言模型的准确性，错误的实体识别或关系抽取会导致错误信息的累积，这种误差传播可能影响到最终生成的知识图谱的质量。

  • 社区聚类：在构建图谱后，通过社区聚类来理解实体之间的关联和层次结构。

    社区聚类的准确性直接影响到信息的结构化表示和后续的查询效率。

    误差传播在这里指的是，如果前面的实体识别和关系抽取存在误差，那么这些误差会在社区聚类过程中被进一步放大，导致社区构建不准确。

解决方法：

  • 提高实体识别和关系抽取的准确性是基本的解决方法，这通常需要更精细的模型训练和更好的训练数据。
  • 在社区聚类阶段，可以引入更高级的算法和更多的人工审核，以减少自动化误差的影响。

我发现一个使用多智能发现和修订知识图谱错误的开源项目：

论文：BioKGBench: A Knowledge Graph Checking
Benchmark of AI Agent for Biomedical Science

代码：https://github.com/westlake-autolab/Agent4S-BioKG

 

总结

《从局部到全局：一种基于图的检索增强生成方法用于查询式摘要》论文:

  1. 召回方式选型:
  • 主要采用了 子图检索增强生成方案, 从文章图1的处理流程可以看出, 通过社区检测算法(如莱顿算法)将知识图谱划分为不同的子图社区, 再基于子图生成摘要。
  • 结合了探索链方案, 通过多级社区层次结构进行探索。
  1. 编排方式:
  • 采用 重排与向量 - 文中提到使用社区检测和层次聚类进行重排
  • 采用多级路由 - 通过不同层级的社区摘要进行路由
  1. 索引方式:
  • 混合索引:同时使用了图索引(基于大模型方案生成知识图谱) 和 向量文本索引(用于检索相关文本块)
  • 大语言模型方案: 利用大语言模型从源文档中抽取实体和关系, 构建知识图谱
  1. 检索查询:
  • 检索器:采用语言模型检索器, 使用大模型进行查询理解和生成
  • 检索方案:多阶段检索, 包括:
    1. 文本块 -> 元素实例
    2. 元素实例 -> 元素摘要
    3. 图社区 -> 社区摘要
    4. 社区摘要 -> 社区答案
  • 检索颗粒度:子图级别, 通过社区检测识别相关子图
  • 检索增强策略:使用映射-归约方式 聚合社区答案生成全局答案
  1. 增强生成:
  • 图语言选择:采用了多种形式:
    1. 自然语言形式的社区摘要
    2. 结构化的图索引表示
    3. 层次化的社区层次结构表示

主要创新点:

  1. 提出了一个创新的图形检索增强生成框架, 能够处理全局性的查询问题
  2. 利用图的模块性特征进行社区检测, 实现高效的分布式处理
  3. 采用映射-归约方式聚合社区级别的答案, 提升了回答的全面性
  4. 在维持答案质量的同时大幅降低了令牌消耗

总的来说, 这是一个针对全局性查询问题的创新图形检索增强生成框架, 通过结合知识图谱的社区结构特征提升了系统性能。

GraphRAG 详细分析：代码流程、prompt 设计逻辑、源码分析

GraphRAG 详细分析：代码流程、prompt 设计逻辑、源码分析

内容太多，要单独写一篇，正在更新…

 

部署指南

#使用qwen灵积大模型平台运行graphrag
1、autodl上创建graph环境
conda init
bash
conda create -n  graph python==3.10.14 -y
conda activate graph

2、安装graphrag
2.1 安装项目文件
pip install  graphrag

2.2 创建工作目录
cd autodl-tmp
mkdir -p ./ragtest/input  #ragtest是工作目录名，可以修改，修改后下面命令中工作目录都需要修改
把文档(txt格式或者csv格式）放入input目录中，注意文档编码为utf-8

2.3 配置文件初始化
python -m graphrag.index --init --root ./ragtest  
#此命令会生成prompts文件夹，settings.yaml和.env 文件，settings文件为参数配置，.env文件为环境变量

2.4 修改配置文件
2.4.1修改settings.yaml文件，见项目中settings.yaml参数
主要修改项包括：
llm:
        -model   修改为qwen 系列llm大模型，比如qwen-plus，qwen-turbo，qwen-max等等
        -api_base 修改为qwen灵积平台地址：https://dashscope.aliyuncs.com/compatible-mode/v1
embeddings:        
        -model   修改为qwen 系列embedding模型，text-embedding-v2或者text-embedding-v1
        -api_base 修改为qwen灵积平台地址：https://dashscope.aliyuncs.com/compatible-mode/v1
chunks:
  size: 1200  #分割文本长度，如果需要更细的力度，可以改为500或者300，越小初始化消耗token越多
  overlap: 100
2.4.2 修改.env环境变量  
GRAPHRAG_API_KEY 修改为qwen大模型的api key
在 命令行 搜索 .env 文件
sudo find / -name ".env"
vi .env 修改自己的 qwen api

2.5 项目初始化
2.5.1 prompt调优，如果是专业领域，可以进行prompt调优（prompt tuning）
命令：
python -m graphrag.prompt_tune --root ./ragtest --config ./ragtest/settings.yaml --language English --domain "financial report" --no-entity-types --output ./prompt
主要参数：
-config 参数为setting.yaml目录
-language 语言chinese，English等
-domain 最重要的参数，领域名称，这里是inancial report金融报告
-output prompt输出目录
生成新的prompt文件后，覆盖prompts  目录下的文件

2.5.2 初始化
python -m graphrag.index --root ./ragtest

2.6 提问
2.6.1 global search
python -m graphrag.query --root ./ragtest --method global "What are the top themes in this story?"
双引号内为问题，主要用于全局搜索，对应文件为output目录下的社区报告，community report即create_final_community_reports.parquet
2.6.2 local search
python -m graphrag.query --root ./ragtest --method local "Who is Scrooge, and what are his main relationships?"
双引号内为问题，主要用于局部细节问题，会使用embedding模型进行文本相似性比较。

我跑了一下，19份PDF（45.9M），卡在最后一步。

Api 问题，承接不了这么大量的输入，得换本地部署 + 72B量化版。

GraphRAG：基于知识图谱的检索增强技术深度解析
2401_84495872的博客
12-02 2649
检索增强生成（Retrieval-Augmented Generation, RAG）是一种技术，它通过结合搜索技术和大型语言模型（LLM）的提示功能来增强模型的输出能力。RAG的核心在于使用搜索算法从数据源中检索相关信息，并将其作为背景上下文与用户的问题一起提供给大型语言模型，以生成更准确、更丰富的回答。这种方法特别适用于需要不断更新知识的领域或特定场景，因为它允许模型直接访问最新信息，而无需重新训练。RAG技术的优势在于它能够提高大型语言模型输出的相关性、准确性和实用性。
【全网首发】小白友好！GraphRAG知识图谱全流程解析，多图详解！
2401_84494441的博客
01-06 1766
当GraphRAG完成索引过程后，它默认会将构建知识图谱所需的所有数据持久化。这些数据被存储在输出目录中，并采用Parquet文件格式。Parquet是一种列式压缩存储格式，专为高效的数据存储和分析而设计。你可以将其视为DataFrame的一种持久化方式。在查询阶段，这些Parquet文件会被加载到内存和向量数据库中。这样做的好处在于，我们可以直接从内存和数据库中检索信息，而无需再次从原始数据源抽取和处理数据。这大大提高了查询的效率和速度。
GraphRag概念详解
奔跑的蜗牛的博客
03-01 699
检索增强生成是一种结合检索系统和生成模型的方法，通常用于问答系统、对话系统等场景中。传统的生成模型仅依赖于训练数据，模型在面对新问题或信息匮乏时会出现性能下降的问题。为了解决这一问题，RAG方法引入了检索机制：在生成过程中，模型会从外部数据库或文档中检索相关信息，然后将检索到的内容作为输入的一部分，结合上下文生成更精确的输出。RAG模型的关键优势在于，它能够结合静态模型的学习能力与动态的外部知识，尤其适合处理需要最新信息的任务。
深度解读GraphRAG：如何通过知识图谱提升 RAG 系统
ZILLIZ
10-16 1532
01.RAG 简介与 RAG 面临的挑战检索增强生成（Retrieval Augmented Generation，RAG）是一种连接外部数据源以增强大语言模型（LLM）输出质量的技术。这种技术帮助 LLM 访问私有数据或特定领域的数据，并解决幻觉问题。因此，RAG 已被广泛用于许多通用的生成式 AI（GenAI）应用中，如 AI 聊天机器人和推荐系统。一个基本的 RAG 通常集成了一个向量数据库...
GraphRAG：知识图谱+RAG技术
热门推荐
2401_84208172的博客
10-15 1万+
由于RAG的一些缺陷，最近工作中用到了GraphRAG，可以简单理解为知识图谱+RAG工作，在进行QFS与深度推理上表现良好。老板希望，在类似于库存管理、预测上面，可以结合更多的上下文信息和逻辑关系，进行推理和结果的输出。（下图为RAG简单示意图）
为什么说知识图谱 + RAG ＞ 传统 RAG？
金融机器智能社区
07-23 1646
你是否曾觉得自己的大脑充斥了一团乱麻般的随机事实？知识图谱模拟了我们大脑思考事物，以及事物间关系的方式，同时又规避了大脑会遗忘和错误决策等问题。我们可以将知识图谱视为带了主语、谓语和宾语的三元组。它们将信息表示为一个由相互连接的实体组成的网络，以及实体之间的关系。本质上，知识图谱利用基于图的数据模型，其中节点代表实体（如人、地点或概念的主体和宾语），边表示这些实体之间的关系或谓语。OpenSPG 是一个语义增强的可编程知识图谱，GitHub地址如下，欢迎大家Star关注~
在大模型RAG系统中应用知识图谱
我相信......
02-25 2991
【引子】 关于大模型及其应用方面的文章层出不穷，聚焦于自己面对的问题，有针对性的阅读会有很多的启发，本文源自Whyhow.ai 上的一些文字和示例。对于在大模型应用过程中如何使用知识图谱比较有参考价值，特汇总分享给大家。在基于大模型的RAG应用中，可能会出现不同类型的问题，通过知识图谱的辅助可以在不同阶段增强RAG的效果，并具体说明在每个阶段如何改进答案和查询。知识图谱更类似于结构化数据存储，而不...
GraphRag实战篇：RAG+知识图谱，提升模型推理能力的大杀器，值得收藏！
xx_nm98的博客
10-16 8773
经典RAG应用的范式与架构已经非常流行，我们可以在很短的时间内借助成熟框架开发一个简单能用的RAG应用。但是传统的RAG系统有个非常大的局限，即不善于处理复杂关系推理、总结性问题和多跳问题。因为传统RAG需要对文本进行分块，然后进行向量化存储，这种处理模式就会天然导致RAG在全局查询或总结上的表现不会太好。比如面对这样的问题，“《跨越鸿沟》这本书整体上讲了什么？请撰写一份2000字的总结”，传统RAG大概率会表现不及格。
突破大模型认知边界的军备竞赛：从ChromaDB实战解密RAG如何重构万亿级知识帝国与暗藏的技术伦理危机
最新发布
百态老人的博客
03-08 879
​递归摘要​：将超出上下文窗口限制的文本进行分块处理，逐步生成摘要。这种方法虽然可以避免一次性处理大量文本，但存在信息丢失的风险。​Map-Reduce和Refine方法​：将长文档分批处理，先生成单块摘要（Map），再合并这些摘要生成最终结果（Reduce）。Refine方法通过多轮优化逐步完善摘要，适合对摘要质量要求较高的场景，但计算开销较大。​提示工程​：通过设计合适的提示来引导LLM生成更准确的摘要。
GraphRAG：知识图谱与RAG智能融合新纪元
AI从业者的专栏
07-16 2663
利用大模型对实体、关系和声明的描述进行抽象总结，形成对概念的独立有意义的摘要。这一过程依赖于大模型对文本本身未明确表述的概念（如隐含关系）的理解能力。为每个社区生成摘要，这些摘要不仅有助于理解数据集的全局结构和语义，而且在没有具体查询的情况下，也可用于对整个文档集合的理解。社区摘要的生成考虑了节点的重要性和连接度，以确保社区内的关键信息被有效捕捉。GraphRAG技术以其革命性的知识图谱融合和检索增强能力，为人工智能领域带来了新的突破。
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
m0_63171455的博客
09-04 3508
其借助社区检测算法来识别知识图谱中的多个社区，并利用LLM对这些社区进行总结与摘要。因此，当回答类似这样的问题：“最近几年高端智能手机的整体发展趋势是怎样的？Microsoft GraphRAG会通过Map-Reduce算法首先从多个不同的关联社区（比如不同年份社区）来搜集到“高端智能手机”的信息（Map），最后汇总生成全局性答案（Reduce）。
【LLM大模型解析】为什么说知识图谱 + RAG ＞ 传统 RAG？
z551646的博客
09-03 806
你是否曾觉得自己的大脑充斥了一团乱麻般的随机事实？知识图谱模拟了我们大脑思考事物，以及事物间关系的方式，同时又规避了大脑会遗忘和错误决策等问题。我们可以将知识图谱视为带了主语、谓语和宾语的三元组。它们将信息表示为一个由相互连接的实体组成的网络，以及实体之间的关系。本质上，知识图谱利用基于图的数据模型，其中节点代表实体（如人、地点或概念的主体和宾语），边表示这些实体之间的关系或谓语。OpenSPG 是一个语义增强的可编程知识图谱，GitHub地址如下，欢迎大家Star关注~
GraphRAG：全局搜索方法在RAG系统中的应用
engchina的专栏
07-27 753
GraphRAG：全局搜索方法在RAG系统中的应用
技术动态 | 知识图谱遇上RAG行业问答:回顾知识检索增强范式、挑战及与知识图谱的结合...
开放知识图谱
01-12 1497
转载公众号| 老刘说NLP今天我们来看看AIDD2023(https://aidd.vip/dhrc-sz2023)中有关知识图谱与行业问答上的一些有趣的分享，供大家一起参考。一、知识检索增强范式、拷问、评估与选型同济大学王昊奋老师的《知识增强大模型:垂域落地的最后一公里》报告中，很有启发性地介绍了知识增强大模型的一些思考，特别棒，择其中几个有趣的点，分享给大家。1、RAG vs Fine-t...
知识图谱检索增强的GraphRAG(基于Neo4j代码实现）
2401_84206094的博客
07-08 5794
对一个查询问题分别进行了测试, 与没有RAG，仅利用LLM生成回复的情况进行对比，在有GraphRAG 的情况下，LLM模型回答的信息量更大、准确会更高。
利用知识图谱提升RAG应用的准确性
AI工程化、开源分享、文档翻译、代码笔记
05-12 2639
我们已经成功地实现了RAG的检索组件。首先引入查询重写功能，允许根据对话历史对当前问题进行改写。),接下来，引入prompt利用集成混合检索器提供的上下文生成响应，完成RAG链的实现。{context}"""chain = (| prompt| llm最后，继续测试混合RAG实现。"})前面实现了查询重写功能，使RAG链能够适配允许后续问题的对话设置。考虑到我们使用向量和关键字搜索，必须重写后续问题以优化搜索过程。",可以看到 When was she born?
RAG | 使用知识图谱和大模型把书读透了
m0_59163425的博客
07-30 1247
今天，既不讲技术，也不讲产品，就是分享一个有意思的事情。读书、学习、做研究、学以致用做产出是每个人在知识领域的循环。作为一个重度的知识工作者，梦想有一个聪明的助手帮我们来“读书、理解”，最好能以费曼的方式和我们探讨，甚至最终和我们协作一起搞创造。最近，我们做了一个实验，应用当前关注的RAG结合提取出的知识图谱来读书，发现结果很有意思。当然，为了和人类能够交互，需要一个大模型和我们进行问答。考虑到未来可能的。
GraphRAG：一种新型的RAG技术
产品老A，7年互联网大厂AIPM，专注探索新型人机交互
07-18 5276
微软前几天发布的 GraphRAG 架构非常厉害，但是具体的原理和内容可能不太好理解。Neo4j 的 CTO 写了一篇详细的文章《GraphRAG 宣言：为 GenAI 增加知识》，通俗易懂的介绍了 GraphRAG 的原理、与传统 RAG 的区别、GraphRAG的优势、知识图谱的创建和利用知识图谱工作。
def prepare_dgl_graph(args, dataset): """ indexed from 0 [base_u, base_u + n_user) [base_i, base_i + n_item) [base_c, base_c + n_category) base_u starts from 0 etype: 0 u-u 1 i-u 2 u-i 3 c-i 4 i-c """ src, dst, etype = [], [], [] bu = 0 bi = bu + dataset['userCount'] bc = bi + dataset['itemCount'] num_nodes = bc + dataset['categoryCount'] """ social network """ uids, fids = dataset['trust'].nonzero() src += (bu + uids).tolist() dst += (bu + fids).tolist() etype += [0] * dataset['trust'].nnz """ user-item interactions """ uids, iids = dataset['train'].nonzero() src += (bi + iids).tolist() dst += (bu + uids).tolist() etype += [1] * dataset['train'].nnz src += (bu + uids).tolist() dst += (bi + iids).tolist() etype += [2] * dataset['train'].nnz """ item-categories relations """ iids, cids = dataset['category'].nonzero() src += (bc + cids).tolist() dst += (bi + iids).tolist() etype += [3] * dataset['category'].nnz src += (bi + iids).tolist() dst += (bc + cids).tolist() etype += [4] * dataset['category'].nnz graph = dgl.graph((src, dst), num_nodes=num_nodes) graph.edata['type'] = torch.LongTensor(etype) return graph
07-14
这是一个名为 `prepare_dgl_graph` 的函数，用于为图神经网络准备 DGL 图数据。 函数首先定义了一些变量，包括 `src`、`dst` 和 `etype`，用于存储图的边的起始节点、目标节点和边的类型。 然后，根据数据集中的用户数、物品数和类别数，计算了节点的索引范围。其中，`bu` 表示用户节点的起始索引，`bi` 表示物品节点的起始索引，`bc` 表示类别节点的起始索引，`num_nodes` 表示图中节点的总数。 接下来，根据数据集中的社交网络关系构建了边。使用 `nonzero()` 方法找到稀疏矩阵 `dataset['trust']` 中非零元素的行索引和列索引，并将其作为边的起始节点和目标节点。将边的类型设置为 0，表示用户-用户之间的关系。 然后，根据数据集中的用户-物品交互构建了边。同样地，使用 `nonzero()` 方法找到稀疏矩阵 `dataset['train']` 中非零元素的行索引和列索引，并将其作为边的起始节点和目标节点。这里有两组边，一组是从物品到用户的边，另一组是从用户到物品的边。将边的类型分别设置为 1 和 2，表示物品-用户之间的关系。 最后，根据数据集中的物品-类别关系构建了边。同样地，使用 `nonzero()` 方法找到稀疏矩阵 `dataset['category']` 中非零元素的行索引和列索引，并将其作为边的起始节点和目标节点。这里有两组边，一组是从物品到类别的边，另一组是从类别到物品的边。将边的类型分别设置为 3 和 4，表示物品-类别之间的关系。 最后，使用 `dgl.graph()` 方法根据起始节点和目标节点创建了一个 DGL 图对象，并将边的类型存储在图的边数据中。 函数返回创建的图对象。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值