GraphRAG实战：突破传统RAG的界限，把PDF转换成为Prompt可优化的数据集

于 2024-08-12 22:10:28 发布
阅读量739 收藏 10
点赞数 8
文章标签： pdf prompt 人工智能 音视频 深度学习 数据库 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59163425/article/details/141143564
版权

早就不是抄一段代码就能搞流量的时代了，还是要干点实事。比如，最新的GraphRAG代码，微软是7月2号放出来的，我是19个小时后注意到的，当时想找个周末好好研究一下。

在这里插入图片描述

「GraphRAG」

不到一周的时间，就已经到了7K Star，这，足以说明一些问题。

GarphRAG的论文是4月底发表的，当时微软的CTO（第三作者）也一起出来谈这个事，我就注意到了这有可能是一个非常前沿的技术。当时还没有下面的代码（https://github.com/microsoft/graphrag/），我也就没有介绍这篇论文。

01.GrphRAG究竟牛在哪

传统的RAG方法主要依赖于文本块的直接检索和生成。虽然这种方法在处理局部性强的问题上表现出色，但在面对需要全局理解和综合分析的任务时，往往力不从心。例如，当需要回答"这个数据集的主要主题是什么？"这类全局性问题时，传统RAG方法难以提供令人满意的答案。

GraphRAG通过引入图结构和社区检测算法，巧妙地解决了这一问题。它的核心思想是将文本语料构建成一个知识图谱，然后利用图的模块化特性进行全局信息的组织和检索。这种方法不仅能够处理局部查询，还能有效回答全局性问题，真正实现了从"局部到全局"的飞跃。它有望揭示隐藏的见解、连接不同的信息，并为复杂的查询提供更全面、更细致的答案。

但是，GraphRAG 的工业化可能存在一些障碍。

可扩展性是首要考虑的问题。随着数据集的增长，图构建和查询的计算强度呈指数级增长。当前的实现可能会难以应对真正庞大的数据集。此外，系统依赖LLMs进行实体和关系提取引入了潜在的瓶颈。 还有模型兼容的问题，这些只有你跑过了代码才能深刻体会。

02.GraphRAG简要介绍

不要把问题搞的太复杂，尽管这不是一个简单的类型。GraphRAG通过以下4步实现。

1. 图索引构建

GraphRAG首先使用大型语言模型（LLM）从源文档中提取实体、关系和属性，构建一个丰富的知识图谱。这个过程包括：

- 文本分块和实体识别

- 关系提取

- 属性和声明的识别

2. 社区检测

利用Leiden算法等社区检测方法，GraphRAG将图索引划分为多个层次的社区。这种层次结构允许系统在不同粒度上组织和访问信息。

3. 社区摘要生成

对每个检测到的社区，使用LLM生成描述性摘要。这些摘要提供了社区内容的高级概述，为后续的查询处理奠定基础。

4. 查询处理

当收到查询时，GraphRAG采用以下步骤：

- 将查询映射到相关的社区

- 并行生成每个相关社区的部分回答

- 综合所有部分回答，生成最终的全局回答

03.躲不开的七种图结构

不同类型的图结构，对理解GraphRAG确实很重要。不仅GraphRAG但凡是涉及图表达的，在这七张图中总能找到你看着眼熟的结构。这对于以后GraphRAG评估也很重要，尽管这个问题暂时还不涉及。

1. Erdős–Rényi（ER）模型：

- 特点：这是一种随机图模型，其中任意两个节点之间都有固定的概率存在连接。ER 模型的标准英文名称是 Erdős–Rényi model，以匈牙利数学家 Paul Erdős 和 Alfréd Rényi 的姓氏命名。

- 结构：图中的边分布均匀，不存在明显的集群或中心节点。

- 在 GraphRAG 中的应用：适用于模拟知识领域中概念之间的随机关联，特别是在处理广泛但关联度不高的知识库时很有用。例如，可用于表示跨学科研究中的初步关联。

2. Barabási–Albert（BA）模型：

- 特点：这是一种优先连接模型，新加入的节点更倾向于与已有的高度连接节点相连。

- 结构：形成无标度网络，存在少数高度连接的"枢纽"节点和大量低度连接的节点。

- 在 GraphRAG 中的应用：非常适合表示有核心概念或关键实体的知识结构。例如，在科学文献网络中，某些基础性论文会成为高度连接的节点。

3. 随机块模型（Stochastic Block Model，SBM）：

- 特点：图中的节点被划分为不同的块或社区，块内部的连接概率高于块之间。

- 结构：呈现明显的社区或群组结构，不同社区之间的连接相对稀疏。

- 在 GraphRAG 中的应用：这种模型对于实现知识的层次化组织和社区检测极为有用。可以帮助系统更有效地组织和检索大规模、多领域的知识。

4. 无标度网络（Scale-Free Network，SFN）：

- 特点：节点的连接度分布遵循幂律，即存在少数高连接度的节点和大量低连接度的节点。

- 结构：类似 BA 模型，但更强调连接度的幂律分布特性。

- 在 GraphRAG 中的应用：适合模拟现实世界中的许多复杂网络，如社交网络或学术引用网络。有助于识别和利用知识网络中的关键节点。

5. 路径图（Path）：

- 特点：节点按照线性顺序连接，每个节点（除了首尾）只与相邻的两个节点相连。

- 结构：呈现为一条直线或链状。

- 在 GraphRAG 中的应用：适合表示具有明确顺序或因果关系的知识，如历史事件序列、算法步骤或推理链。

6. 星型图（Star）：

- 特点：一个中心节点与多个外围节点相连，外围节点之间没有直接连接。

- 结构：呈现辐射状，中心节点度数高，外围节点度数为 1。

- 在 GraphRAG 中的应用：适合表示中心概念及其直接相关的从属概念。例如，可用于组织主题及其子主题，或表示某个核心实体及其属性。

7. 完全图（Complete）：

- 特点：图中的每个节点都与其他所有节点直接相连。

- 结构：高度密集，任意两个节点间都有边相连。

- 在 GraphRAG 中的应用：适合表示高度相关且相互影响的概念集合。但由于其高密度特性，在大规模知识图谱中较少使用，更多用于表示局部的紧密关联群组。

理解这些图结构对于优化 GraphRAG 系统至关重要。在实际应用中，GraphRAG 可能需要识别并利用知识图谱中的这些不同结构特征，以提高信息检索的准确性和效率。例如，在处理科学文献时，系统可能会利用无标度网络的特性来快速定位关键论文；而在组织跨学科知识时，可能会更多地依赖随机块模型的特性来实现有效的知识分类和检索。

04.实战GraphRAG

接下来，我将用一个示例来为你打开GraphRAG之门，解决一个大家常见而棘手的问题，就是面对一堆PDF文档，如何编制问题，生成答案，高质高效完成数据集的创建工作。我用到的文档就是本篇文章的论文，你得到源码后可以替换，我用到的模型是deepseek-chat，Embedding模型是jina-embeddings-v2-base-zh，运行环境是Jupyter。

以下是一个简化的GraphRAG本地搜索实现示例，展示了如何处理PDF文档并执行基于检索的问答：

import os  
  
import asyncio  
  
import pandas as pd  
  
from PyPDF2 import PdfReader  
  
from langchain.text_splitter import RecursiveCharacterTextSplitter  
  
from graphrag.query.context_builder.entity_extraction import EntityVectorStoreKey  
  
from graphrag.query.input.loaders.dfs import store_entity_semantic_embeddings  
  
from graphrag.query.structured_search.local_search.mixed_context import LocalSearchMixedContext  
  
from graphrag.query.structured_search.local_search.search import LocalSearch  
  
from graphrag.vector_stores.lancedb import LanceDBVectorStore  
  
import requests  
  
import json  
  
# ... [省略了Entity, DeepSeekClient, JinaAIEmbedding类的定义]  
  
def process_pdf(file_path):  
  
with open(file_path, 'rb') as file:  
  
pdf_reader = PdfReader(file)  
  
text = ""  
  
for page in pdf_reader.pages:  
  
text += page.extract_text()  
  
return text  
  
def split_text(text):  
  
text_splitter = RecursiveCharacterTextSplitter(  
  
chunk_size=1000,  
  
chunk_overlap=200,  
  
length_function=len  
  
)  
  
chunks = text_splitter.split_text(text)  
  
return chunks  
  
async def run_rag_query(search_engine, question):  
  
print(f"执行查询：'{question}'")  
  
try:  
  
result = await search_engine.asearch(question)  
  
print("查询结果：")  
  
print(result.response)  
  
return result.response  
  
except Exception as e:  
  
print(f"查询过程中发生错误: {str(e)}")  
  
return None  
  
# ... [省略了main函数和其他辅助函数]  
  
# 在Jupyter中运行  
  
await main()

这个示例展示了如何处理PDF文档、创建文本嵌入、构建搜索引擎，以及执行基于检索的问答。虽然这个实现没有包含完整的GraphRAG功能，但它为理解和扩展到全面的GraphRAG系统奠定了基础。从原理上这是一个完全图（Complete Graph）的简化版，在代码中我还用到自动生成并回答问题的模块，这就解决了生成数据集的问题。

要将这个实现升级为真正的 GraphRAG 系统，需要进行以下改进：

  1. 显式的图结构：引入节点（实体）之间的明确关系（边）。

  2. 社区检测：实现如 Leiden 算法的社区检测方法，对知识进行分层组织。

  3. 分层摘要：为不同层级的社区生成摘要。

  4. 图遍历算法：实现基于图结构的检索方法，而不仅仅依赖向量相似度。

  5. 动态图更新：允许在新增知识时动态更新图结构。

我就是为了自动生成数据集，所以没必要那么复杂。数据集生成后，你还可以建立一个评估系统，开始打分，比如：

评分标准：1-5分，其中1分最低，5分最高。评分基于回答的准确性、相关性和全面性。对自动生成的问题和答案进行打分并矫正其中的错误，这可以用一些高级的提示词来实现。下面的问题和答案在上图中。

问题1：在研究中，知识增强的语言模型提示是如何具体应用于数据收集和预处理阶段的？

评分：4/5

评价：回答大体准确，涵盖了数据收集和预处理的主要步骤。然而，它缺少了一些论文中特别提到的细节，如实体和关系的提取。

矫正：

  • 在数据收集阶段，应该强调实体和关系的提取过程。论文提到使用LLM提示来识别和提取文本中的实体、关系和声明。

  • 在预处理阶段，可以提到使用LLM生成的社区摘要作为一种数据增强方法。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

小马不会过河
关注
  • 8
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
LangChain实战：使用 RAG 工作流程进行高效信息检索 Efficient Information Retrieval with RAG Workflow
禅与计算机程序设计艺术
10-22 1866
检索增强生成 (RAG) 是一种与预训练的大型语言模型 (LLM) 和您自己的数据配合使用来生成响应的模式。seq2seq它结合了预训练密集检索和序列到序列模型的强大功能。RAG 模型检索文档，将它们传递给 seq2seq 模型，然后边缘化以生成输出。article在我向您介绍 RAG 理论部分的文章的继续部分，我在这里向您介绍 RAG 在代码中的实现。让我们开始使用 Langchain 和 Hugging Face 来实现 RAG！
RAG实战代码及知识库
03-13
在本资源中，“RAG实战代码及知识库”是一个针对自然语言处理领域的实践项目，它基于yuan2.0大模型构建了一个名为RAG（Retrieval-Augmented Generation）的系统。RAG是一种混合了检索和生成两种能力的模型，它能够...
技术动态 | 从传统RAG到GraphRAG - 当大模型遇见知识图谱
开放知识图谱
06-05 455
转载公众号 |知识图谱科技摘要:从传统 RAG 到GraphRAG 的转变通过整合知识图谱增强了大型语言模型，使其能够对复杂查询提供更加细致和准确的响应。GraphRAG 的有效性也取决于底层知识图谱的质量和广度以及RAG工程层面的处理。主要观点：- GraphRAG 通过利用知识图谱为丰富的上下文改进 LLM 的响应。- 它解决了传统 RAG 的局限，提升了对复杂查询的理解。- 复杂的检索和索...
微软重磅开源 GraphRAG：新一代 RAG 技术来了！
musicml的博客
07-07 2622
▼最近直播超级多，预约保你有收获今晚直播：《RAG/Dify 构建企业案例实战》—1—为什么需要 GraphRAG？7月3日，微软重磅开源了基于图的 RAG -- GraphRAG。在 GitHub 上发布后，短短4天时间，该项目迅速获得了 6000 Stars！足见这个项目的热度！Github 地址：https://github.com/microsoft/graphrag强化主流大模型，比...
GraphRAG：一种新型的RAG技术
产品老A，6年互联网大厂AIPM，专注探索新型人机交互
07-18 1491
微软前几天发布的 GraphRAG 架构非常厉害，但是具体的原理和内容可能不太好理解。Neo4j 的 CTO 写了一篇详细的文章《GraphRAG 宣言：为 GenAI 增加知识》，通俗易懂的介绍了 GraphRAG 的原理、与传统 RAG 的区别、GraphRAG的优势、知识图谱的创建和利用知识图谱工作。
大语言模型优化方法简介：Prompt、RAG、Fine-tuning
2401_82469710的博客
06-17 1225
大型语言模型（如GPT、LLama、Gemini）在准确性、知识更新速度和答案透明度方面存在挑战，常用的解决优化方法：Prompt Engineering（提示词工程）、Retrieval-Augmented Generation（RAG，检索增强生成）和Fine-tuning（微调）。每种方法都有不同的层次和特点。：通过使用标准提示词、Few-shot提示词和XoT提示词（如CoT和ToT），来提高模型的回答精准度。RAG：模型首先从文档库中寻找相关信息，然后使用这些信息来生成回答或文本。
【RAG & KG】GraphRAG开源：查询聚焦摘要的图RAG方法
余俊晖，NLP炼丹师，目前专注自然语言处理领域研究。曾获得国内外自然语言处理算法竞赛TOP奖项近二十项。
07-09 1067
传统的 RAG 方法在处理针对整个文本语料库的全局性问题时存在不足，例如查询：“数据中的前 5 个主题是什么？对于此类问题，是因为这类问题本质上是查询聚焦的摘要（Query-Focused Summarization, QFS）任务，而不是传统的显式检索任务。Graph RAG 通过使用 LLM 构建基于图的文本索引，从源文档构建知识图谱。通过构建知识图谱，能够将复杂的、大规模文本数据集转化为易于理解和操作的知识结构，以便更好地理解实体（如人物、地点、机构等）之间的相互关系。使用 LLM。
实战微软新一代RAG：GraphRAG
我是新手的博客
07-21 941
1.它是基于LLM构建的知识图谱，在构建过程中会消耗大量的Token，其中本次测试2.9w花费了大概13w token。2.它支持2种搜索方法，局部和全局，全局效果最好，但是对模型的token处理能力有要求。3.框架仅支持OpenAI SDK协议的的LLM，国内目前只有千问和月之暗面可以，如果精力充足的网友也可以基于OpenAI的协议魔改自己想要接入的大模型，其实就是封装一个网关。
RAG+GIS实战：离线RAG项目实战02——简单的prompt工程及RAG原理简述
weixin_44035336的博客
03-21 2210
在上一篇文章中我介绍了RAG项目的环境搭建及简单对话模型的搭建，但是在涉及专业领域时，它出现了幻觉问题，效果很差，为了解决这个问题，我们今天先简短的了解一下何为prompt，通过一个简单的Demo来实现先验知识的输入，理解这部分内容后，在后续搭建向量数据库后，我们就简单的将索引结果替换掉本文的“占位符”即可！
GraphRAG：知识图谱与RAG智能融合新纪元
AI从业者的专栏
07-16 1468
利用大模型对实体、关系和声明的描述进行抽象总结，形成对概念的独立有意义的摘要。这一过程依赖于大模型对文本本身未明确表述的概念（如隐含关系）的理解能力。为每个社区生成摘要，这些摘要不仅有助于理解数据集的全局结构和语义，而且在没有具体查询的情况下，也可用于对整个文档集合的理解。社区摘要的生成考虑了节点的重要性和连接度，以确保社区内的关键信息被有效捕捉。GraphRAG技术以其革命性的知识图谱融合和检索增强能力，为人工智能领域带来了新的突破。
基于langchain的RAG实战
02-19
基于langchain的RAG实战
RAG-基于LangChain+ChatGLM-6B+本地知识库搭建的RAG智能问答系统-附项目源码+流程教程-优质项目实战
07-30
RAG_基于LangChain+ChatGLM-6B+本地知识库搭建的RAG智能问答系统_附项目源码+流程教程_优质项目实战
Langchain-一个简单的基于Langchain+RAG的应用示例-附项目源码+流程教程-优质项目实战.zip
07-22
Langchain_一个简单的基于Langchain+RAG的应用示例_附项目源码+流程教程_优质项目实战
RAG-基于Java实现的增强检索生成RAG项目-包含知识库+检索-附项目源码+流程教程-优质项目实战.zip
07-30
RAG_基于Java实现的增强检索生成RAG项目_包含知识库+检索_附项目源码+流程教程_优质项目实战
26-原理图的PDF的输出
HideAsn的博客
08-12 169
26-原理图的PDF的输出
qt 5.15.2 使用pdf
最新发布
qq_23903863的博客
08-12 217
将C:\Qt\5.15.2\Src\qtwebengine\src\pdf\api所有文件拷贝到C:\Qt\5.15.2\msvc2019_64\include\QtPdf。将QtPdf和QtPdfWidgets目录拷贝到msvc2019_64/include(根据需要用到的编译器而定)将C:\Qt\5.15.2\Src\qtwebengine\src\pdfwidgets以下文件拷贝到。拷贝到：C:\Qt\5.15.2\msvc2019_64\include\QtPdfWidgets。
pdf怎么加密码怎么设置密码？pdf加密码的几种设置方法
ZCR20000的博客
08-08 1541
如果你将加密的文件或文件夹移动到不支持加密的驱动器上，它们将保持加密状态，但加密属性可能无法被识别或应用。进入加密功能后，你需要点击页面上的“添加文件”按钮，将你想要加密的PDF文件导入到软件中。你可以点击菜单栏上的“文件”选项，然后选择“打开”，浏览并找到你想要加密的PDF文件。注意：如果你的文件或文件夹位于不支持加密的驱动器（如FAT32格式的驱动器）上，这个选项可能会是灰色的，无法勾选。它以其稳定的性能和丰富的功能而广受用户好评，其中就包括PDF文件的加密功能，能够帮助你有效保护文件的敏感信息。
2023年中国城市统计年鉴（PDF+excel）
m0_71334485的博客
08-08 260
2023年中国城市统计年鉴（PDF+Excel）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值