【LLM大模型】实战微软新一代RAG：GraphRAG（附教程）

于 2025-03-16 14:30:00 发布
阅读量1k 收藏 24
点赞数 19
文章标签： AI大模型 LLMs LLM 大模型应用 人工智能 graphRAG RAG
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_81940605/article/details/146252603
版权

微软发布 RAG知识库，开源方案 GraphRAG，项目上线即爆火，现在星标量已经达到 20k。

在这里插入图片描述

其意义在于，它能提升LLM的应答速度与品质，同时优化RAG能力的体验。它解决了基于向量的RAG在大规模文档环境下的理解与总结问题。具体实现步骤如下：

  1. 利用LLM在原始文档中抽取实体事件关系，构建知识图谱。
  2. 为关系密切的实体群预生成社区摘要。在提问时，各个社区摘要生成部分回应，最终汇总为完整答案。

本文是一篇偏实战的文档，RAG和LLM相关的原理在此就不多做赘述，接下来让我们尝试复现GraphRAG，揭开其神秘的面纱。

安装

坑：py版本目前3.11是最顺利的

我这里为了方便修改调试，直接在github上拉了原始代码下来编译，如果大家不想折腾，可以在microsoft.github.io/graphrag/po…找到源码以外的安装方式。

shell
 代码解读
git clone https://github.com/microsoft/graphrag.git

整个项目是基于poetry构建的，所以在准备好graphrag的源码之后，我们需要安装python环境，这里通过作者的不断踩坑，目前py3.11版本是最顺利的。

准备一个venv虚拟环境，并激活

shell
 代码解读
python3.11 -m venv venv # 创建一个pyenv环境  
source venv/bin/active # 激活这个env环境

安装poetry

shell
 代码解读
pip3 install poetry # 安装poetry

安装好poetry之后，我们执行以来的安装

shell
 代码解读
poetry install

上述操作一切就绪之后，让我们开始初始化项目。

shell
 代码解读
poetry run poe index --init --root .

命令执行完成之后，根目录中会生成如下目录

  • input目录，存放需要索引的文件，默认配置只支持txt，当然也可以修改settings.yaml。
  • output目录，存储生成的图、以及总结、日志等信息，如果生成过程中存在出错了，就可以在这里找到日志。
  • prompts目录，存储默认的4个提示词文件：claim_extraction.txt、community_report.txt、entity_extraction.txt、summarize_descriptions.txt。
  • cache目录，用于缓存提取实体和摘要等，能够减少LLM调用
  • .env文件中只包含一个字幕GRAPHRAG_API_KEY，用于设置你的LLM API_KEY，当然你可以忽略，在settings.yaml直接改也是可以的，不过建议不要上生产环境。
  • settings.yaml 文件较为复杂，配置项目也较多，运行本项目只需要修改两个。

修改配置文件settings.yaml

由于GraphRAG是基于OpenAI的库构建的，所以settings.yaml中基本都是基于OpenAI的字段定义的，为了解决这个问题我们需要使用能兼容OpenAI协议的大模型来平替。（PS：因为OpenAI太贵了，富哥也可以直接上GPT）

国内的话能够适配OpenAI SDK协议的有千问和月之暗面，大家可以自行选择。

这里我才用了千问的接口做实验，千问新账号免费100w token做实现绰绰有余。

在使用千问的时候有一些坑，需要关注下 1.top_p 必须设置0-1之间，要小于1，比如0.99这样。 2.max_tokens 必须设置为2000，超过会报错。 3.还有其他未知的错误，不要使用qwen-long，好像输入过长就会报错，让你走文件上传，建议使用qwen-turbo。 参考自：blog.csdn.net/Python_coco…

解决了llm之后，咱们还需要一个embed模型，这里我们使用qwen的7B模型，这里涉及到qwen环境的部署，就不多做描述，如有需要咱再来一篇文章讲一下如何在本地搭建qwen7B的模型。

这里贴上我改好的配置文件，各位可以自取，填上Token就可以启动。

yaml
 代码解读
encoding_model: cl100k_base
skip_workflows: []
llm:
  api_key:  # 这里写一个API Key随意即可
  type: openai_chat # or azure_openai_chat
  model: gpt-4-turbo-preview
  model_supports_json: true # recommended if this is available for your model.
  max_tokens: 2000  # 千问限制
  # request_timeout: 180.0
  api_base: https://dashscope.aliyuncs.com/compatible-mode/v1 
  # api_version: 2024-02-15-preview
  # organization: 
  # deployment_name: 
  tokens_per_minute: 30000 # set a leaky bucket throttle
  requests_per_minute: 30 # set a leaky bucket throttle
  max_retries: 3
  max_retry_wait: 10
  sleep_on_rate_limit_recommendation: true # whether to sleep when azure suggests wait-times
  concurrent_requests: 1 # the number of parallel inflight requests that may be made
  # temperature: 0 # temperature for sampling
  top_p: 0.5 # 千问限制
  # n: 1 # Number of completions to generate

parallelization:
  stagger: 0.3
  # num_threads: 50 # the number of threads to use for parallel processing

async_mode: threaded # or asyncio

embeddings:
  ## parallelization: override the global parallelization settings for embeddings
  async_mode: threaded # or asyncio
  llm:
	api_key: ${GRAPHRAG_API_KEY}   
    type: openai_embedding # or azure_openai_embedding
    model: text-embedding-ada-002
    api_base: http://localhost:8080  # 本地的embed sever地址。
    # tokens_per_minute: 150_000 # set a leaky bucket throttle
    # requests_per_minute: 10_000 # set a leaky bucket throttle
    # max_retries: 10
    # max_retry_wait: 10.0
    # sleep_on_rate_limit_recommendation: true # whether to sleep when azure suggests wait-times
    # concurrent_requests: 25 # the number of parallel inflight requests that may be made
    # batch_size: 16 # the number of documents to send in a single request
    # batch_max_tokens: 8191 # the maximum number of tokens to send in a single request
    # target: required # or optional

索引构建

解决完环境问题之后，咱们就开始了漫长的索引过程，启动索引的命令如下所示。

shell
 代码解读
poetry run poe index --root .

这是一个漫长的过程，我索引的《全频段阻塞》全文大概2.9w字，花了30分钟左右。

下面是构建知识图谱的过程的截图。

1.提取文章中的实体关系，构建缓存。

在这里插入图片描述

2.基于实体关系构建实体实现联系。

在这里插入图片描述

使用

这里的查询方式有两种：

  • 局部查询：通过将 AI 提取到知识图谱中的相关数据与原始文档的文本块相结合来生成答案，此方法适用于需要了解文档中提到的特定实体的问题。
  • 全局查询：全局查询方法通过以 map-reduce 方式搜索所有 AI 生成的社区报告来生成答案。这是一种资源密集型方法，需要LLM支持的context window足够大，最好是32K的模型，但通常可以很好地回答需要了解整个数据集的问题。

局部查询

arduino
 代码解读
poetry run poe query --root . --method local "塘沽前线发生了什么"

查询结果如下所示

在这里插入图片描述

能大概检索出事件的前因后果，不过局限性是他是基于抽取的实体查询的，如果抽取的LLM能力不足的话，可能就会导致局部查询效果不佳的问题。

全局查询

arduino
 代码解读
poetry run poe query --root . --method global "xxx"

这里俺的API扛不住，就没有测试，有能力的富哥可以自行尝试，命令俺贴上了。

总结

1.它是基于LLM构建的知识图谱，在构建过程中会消耗大量的Token，其中本次测试2.9w花费了大概13w token。

2.它支持2种搜索方法，局部和全局，全局效果最好，但是对模型的token处理能力有要求。

3.框架仅支持OpenAI SDK协议的的LLM，国内目前只有千问和月之暗面可以，如果精力充足的网友也可以基于OpenAI的协议魔改自己想要接入的大模型，其实就是封装一个网关。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

微软的GraphRAG：智能问答系统的革命
强化学习曾小健
04-15 1754
通过将AI生成的知识图与私人数据集集成，GraphRAG承诺通过专注于上下文相关性的重要性来提高响应的准确性，这是长期困扰研究人员和用户的挑战。这种方法上的创新意味着与传统RAG系统的分道扬镳，后者通常依赖于固定的文件或数据源，限制了它们适应新问题或复杂问题的能力。面对跨多个领域的复杂问题或需要精细化理解的情况，这些系统常常出现问题，提供的答案虽然在技术上是正确的，却错失了被问到的问题的本质。随着这项技术的发展，类人理解和AI之间的界限可能会变得模糊，重新定义我们与技术以及推动我们世界的信息之间的关系。
微软多部门联合推出GraphRAG项目：全面性和多样性方面显著优于原生大模型RAG
强化学习曾小健
04-26 2494
传统的RAG方法适用于局部文本检索任务，但。
微软开源GraphRAG的安装+示例教程（最全超详细教程，小白上手）
weixin_50366304的博客
02-01 5967
微软的GraphRAG是一种结合了检索增强生成（Retrieval-Augmented Generation，RAG）技术和知识图谱（Knowledge Graphs，KGs）的系统，旨在提升大型语言模型（LLMs）处理复杂信息的问答性能。论文地址项目地址。
下一代 RAG 技术来了！微软正式开源 GraphRAG
stephen147的博客
07-08 7555
7 月 2 日，微软开源了 GraphRAG，一种基于图的检索增强生成 (RAG) 方法，可以对私有或以前未见过的数据集进行问答。在 GitHub 上推出后，该项目快速获得了 2700 颗 star！开源地址：https://github.com/microsoft/graphrag通过 LLM 构建知识图谱结合图机器学习，GraphRAG 极大增强 LLM 在处理私有数据时的性能，同时具备连点成线的跨大型数据集的复杂语义问题推理能力。
微软GraphRAG框架源码解读（LLMs）
瓦罗兰特顶级C位的博客
07-22 2184
这几天微软开源了一个新的基于知识图谱构建的检索增强生成（RAG）系统：GraphRAG。该框架旨在利用大型语言模型（LLMs）从非结构化文本中提取结构化数据，构建具有标签的知识图谱，以支持数据集问题生成、摘要问答等多种应用场景。GraphRAG的一大特色是利用图机器学习算法针对数据集进行语义聚合和层次化分析，因而可以回答一些相对高层级的抽象或总结性问题，这一点恰好是常规RAG系统的短板。 说实话之前一直有在关注这个框架，所以这两天花了点时间研究了一下源码，结合之前的一些技术文档，本文主要是记录GraphRA
微软重磅开源 GraphRAG：新一代 RAG 技术来了！
musicml的博客
07-07 9132
▼最近直播超级多，预约保你有收获今晚直播：《RAG/Dify 构建企业案例实战》—1—为什么需要 GraphRAG？7月3日，微软重磅开源了基于图的 RAG -- GraphRAG。在 GitHub 上发布后，短短4天时间，该项目迅速获得了 6000 Stars！足见这个项目的热度！Github 地址：https://github.com/microsoft/graphrag强化主流大模型，比...
精品资料：大模型LLM+RAG：大模型前沿技术与应用构建指南-160页.pdf
最新发布
04-09
内容概要：详细介绍了大模型前沿技术LLM（大语言模型）与RAG（检索增强生成）在不同业务场景中的应用与实践，涵盖了广告推荐、内部知识库管理、音乐推荐、风控图谱、办公领域等多个方面。文章首先通过360广告推荐...
大模型LLM，RAG实战.zip
03-14
标题中的“大模型LLM，RAG实战”指的是在自然语言处理领域中，大型语言模型（Large Language Models, LLM）的应用，特别是Relevance-Aware Generation（RAG）模型的实际操作。RAG是一种结合了检索式和生成式模型优势...
算法部署-使用TensorRT-LLM部署大模型-附详细优化+分析流程教程-优质大模型部署项目实战.zip
06-05
附详细优化+分析流程教程-优质大模型部署项目实战.zip算法部署-使用TensorRT-LLM部署大模型-附详细优化+分析流程教程-优质大模型部署项目实战.zip算法部署-使用TensorRT-LLM部署大模型-附详细优化+分析流程教程-优质...
GraphRAG：知识图谱+大模型案例实战（一）
春华秋实
08-02 1698
该图谱与社区摘要和图谱机器学习输出一起在查询时用于增强提示。GraphRAG在回答上述两类问题时显示出显著的改进，展示了比以前应用于私有数据集的方法更高的智能的掌握能力。上述案例代码展示了微软研究的新方法GraphRAG的实现，通过利用大语言模型（LLM）基于输入语料库创建知识图谱，并在查询时结合社区摘要和图谱机器学习输出来增强提示。本地搜索方法通过将 AI 提取的知识图谱中的相关数据与原始文档的文本块相结合来生成答案。这种方法适用于需要了解文档中提到的特定实体的问题（例如，洋甘菊的治疗特性是什么？
基于大模型的企业级RAG构建、应用与开发
11-23
在现今的企业级应用中，大模型和RAG技术正逐步成为提升数据检索和问答系统智能化水平的关键。RAG即Retrieval-Augmented Generation，它通过融合检索和生成的机制，实现对信息的智能检索和自然语言的生成。本文将深入...
源码解读 - 微软GraphRAG框架
stephen147的博客
07-09 2537
这几天微软开源了一个新的基于知识图谱构建的检索增强生成（RAG）系统, GraphRAG, 该框架旨在利用大型语言模型（LLMs）从非结构化文本中提取结构化数据, 构建具有标签的知识图谱，以支持数据集问题生成、摘要问答等多种应用场景。 GraphRAG 的一大特色是利用图机器学习算法针对数据集进行语义聚合和层次化分析，因而可以回答一些相对高层级的抽象或总结性问题, 这一点恰好是常规 RAG 系统的短板。 说实话之前一直有在关注这个框架, 所以这两天花了点时间研究了一下源码, 结合之前的一些技术文档，本文主要
面向 RAG 的未来：深入探索微软 GraphRAG 技术
m0_59235945的博客
07-12 1419
GraphRAG 是对传统 RAG 的进化。它解决了传统 RAG 系统的关键局限。传统 RAG 依赖向量相似性搜索。GraphRAG 走得更远。它将整个数据集构建成丰富、结构化的知识图谱。GraphRAG 的核心是其 LLM 生成的知识图谱。首先，实体和关系提取。大语言模型处理整个数据集。它在自定义提示的指导下提取实体和关系。这些构成了图结构的基础。接下来是图构建。实体成为节点。关系形成边。像 NetworkX 这样的图库可能会创建这个基础结构。然后，社区检测算法开始工作。
微软GraphRAG框架演进之路及带来的一些思考
m0_59164520的博客
11-27 1346
本文主要回顾了Graphrag(ms版本)的路程：GraphRAG第一版本2024年4月份，主打global/local search；2024年11月初，搜索优化引入Drift_search动态搜索（https://microsoft.github.io/graphrag/query/drift_search)；
技术动态 | 微软发表GraphRAG论文并即将开源项目
开放知识图谱
05-03 1635
全文摘要:微软发表GraphRAG论文"From Local to Global: A Graph RAG Approach to Query-Focused Summarization"并即将开源项目，论文讨论GraphRAG方法，用于对文本语料库进行问题回答，结合了检索增强生成和图形索引，以提高答案的全面性和多样性。主要观点:- GraphRAG将检索增强生成与知识图谱索引相结合，用于问题回答...
最新开源震撼：微软GraphRAG技术深度解析
寻道AI，探索AI无限可能！
07-09 3603
2024年7月2日，微软开源了GraphRAG技术，这一举措不仅为AI领域带来了创新的解决方案，也为开发者社区注入了新的活力。GraphRAG，即基于图的检索增强生成（Graph-based Retrieval-Augmented Generation），是一种革命性的技术，它通过结合知识图谱和图机器学习，显著提升了LLM在处理私有数据时的性能。
微软开源GraphRAG的使用教程-使用自定义数据测试GraphRAG
热门推荐
luxinfeng的博客
07-08 2万+
这篇文章主要介绍了微软开源的GraphRAG的安装教程，并以《太白金星有点烦》为例，动手实操测试了下GraphRAG的实际效果。
一文学懂【微软开源GraphRag】项目
kiingking的博客
07-11 1880
GraphRAG 是微软开源的一个项目，它的名字里包含了它的主要功能——利用图（Graph）来增强检索（Retrieval）和生成（Generation）的能力。
微软开源graphrag怎么部署
07-26
微软开源的GraphRAG是一种基于图神经网络的推荐系统架构，它主要用于生成用户与物品之间的交互预测，并在推荐系统中应用。如果你想要部署Microsoft开源的GraphRAG模型，大致可以按照以下几个步骤来进行： ### 步骤一：环境准备 1. **安装Python**：确保你的计算机上已经安装了Python环境，推荐版本3.x系列。 2. **安装依赖库**：GraphRAG通常会依赖于一些特定的数据处理、科学计算和机器学习库如NumPy、Pandas、Scikit-Learn等。你可以通过pip命令来安装所需的依赖库： ```bash pip install numpy pandas scikit-learn tensorflow ``` 如果需要更复杂的图形计算能力，则还需要安装例如DGL或其他支持图神经网络的框架。 3. **获取源码**：从GitHub或者其他开源平台下载GraphRAG的源代码仓库到本地文件夹中。可以通过Git Clone操作来获取最新版本： ```bash git clone https://github.com/Microsoft/GraphRAG.git ``` ### 步骤二：数据准备 GraphRAG模型需要训练数据，这通常包括用户的历史交互记录和物品的相关信息。你需要将原始数据转换成适合GraphRAG使用的格式，比如图数据。这一步可能会涉及到数据清洗、特征提取以及构建图结构等工作。 ### 步骤三：模型训练 1. **加载数据**：使用已有的数据处理工具（例如pandas）读取并预处理数据。 2. **构建模型**：根据GraphRAG的设计文档或者说明文件，配置相应的模型参数并实例化模型。可能需要自定义一些组件，例如损失函数、优化器等。 3. **训练模型**：使用训练数据对模型进行迭代训练。监控训练过程中的性能指标，调整超参数以优化模型效果。 4. **评估模型**：在验证集或者测试集上评估模型的表现，确保模型的泛化能力。 ### 步骤四：部署模型 1. **选择部署环境**：确定模型运行的硬件环境，可以选择云端服务（如Azure、AWS等）、本地服务器或者容器化（如Docker）等方式。 2. **模型打包**：将经过训练的模型以及必要的依赖打包。如果是采用容器化部署，需要创建一个包含所有依赖和配置的Docker镜像。 3. **部署到生产环境**：根据所选部署环境的具体流程，将模型部署到生产环境中。如果是在云服务上部署，需要考虑资源管理和成本控制。 4. **监控与维护**：部署完成后，持续监控模型的在线表现，及时更新模型以适应新的数据趋势或业务需求。 ### 相关问题： 1. GraphRAG是否提供官方的教程或示例项目？ 2. 如何优化GraphRAG的训练效率和预测速度？ 3. 在实际应用中，如何整合GraphRAG与其他推荐系统组件（如召回层、过滤器）以提高整体性能？ 确保每一步都理解清楚并仔细执行，可以帮助你成功地部署和利用Microsoft开源的GraphRAG模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值