GraphRAG 与 RAG 的比较分析

最新推荐文章于 2024-09-30 17:00:37 发布
最新推荐文章于 2024-09-30 17:00:37 发布
阅读量786 收藏 9
点赞数 19
文章标签： 计算机视觉 prompt LLM 大模型 RAG GraphRAG AI大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_81940605/article/details/142467116
版权

Graph RAG 是 RAG 方法的一个高级变体，其特点是引入了图结构数据。与将知识库视为平面文档集合不同，Graph RAG 将信息表示为实体和关系的互联网络。

转载自丨Deephub Imba

检索增强生成（RAG）技术概述

检索增强生成（Retrieval-Augmented Generation，简称 RAG）是一种旨在提升大型语言模型（Large Language Models，LLMs）性能的技术方法。其核心思想是通过整合外部可靠知识库的信息来增强模型的输出质量。

RAG 的工作原理可以概括如下：当 LLM 接收到查询时，它不仅依赖于自身的预训练知识，还会主动从指定的知识源检索相关信息。这种方法确保了生成的输出能够参考大量上下文丰富的数据，并得到最新、最相关可用信息的支持。

RAG 系统的核心组件

标准 RAG 系统主要由三个关键组件构成：

  1. 检索器组件（Retriever Component）：
    • 功能：在知识库或大规模文档集中搜索与查询主题高度相关的信息。
    • 工作方式：识别在语义上与查询相关的文档，并通过相似度度量（通常采用向量间的余弦相似度）计算相关性。
  3. 生成器（Generator）：
    • 定义：通常是一个大型语言模型。
    • 输入：检索到的相关信息和原始查询。
    • 输出：基于输入生成响应。
  5. 知识库（Knowledge Base）：
    • 用途：作为检索器查找文档或信息的数据源。

RAG 的工作流程

  1. 从外部源收集相关信息。
  2. 将收集到的信息附加到用户的原始提示中。
  3. 将增强后的提示作为输入发送给语言模型。
  4. 在生成阶段，LLM 结合增强提示和自身的训练数据表示，生成针对用户查询定制的响应。

这一过程产生的响应融合了个性化和可验证的信息，特别适用于聊天机器人等应用场景。

在这里插入图片描述

图2：检索增强生成流程示意

构建 RAG 系统的关键步骤

  1. 知识库准备：
    • 对文档进行索引
    • 创建文本嵌入
  3. 检索器模型：
    • 训练或微调，以有效搜索知识库
  5. 生成器模型：
    • 通常采用预训练的语言模型
  7. 系统集成：
    • 确保各组件无缝协作

Graph RAG 技术简介

Graph RAG 是 RAG 方法的一个高级变体，其特点是引入了图结构数据。与将知识库视为平面文档集合不同，Graph RAG 将信息表示为实体和关系的互联网络。

Graph RAG 的核心概念

Graph RAG 基于知识图谱（Knowledge Graphs，KGs）构建。知识图谱是现实世界实体及其关系的结构化表示，主要由两个基本元素组成：

  • 节点（Nodes）： 表示单个实体，如人物、地点、物体或概念。
  • 边（Edges）： 表示节点之间的关系，定义了实体间的连接方式。

相比于标准 RAG 使用向量相似度和向量数据库进行检索，Graph RAG 利用知识库进行更全面、系统的信息检索，从而提高了检索的完整性和准确性。

Graph RAG 的技术优势

Graph RAG 相较于标准 RAG 具有以下显著优势：

  1. 关系上下文捕捉：

    能够捕捉和利用信息片段之间的复杂关系，提供更丰富、更具语境的信息检索结果。

  2. 多跳推理能力：

    图结构支持系统沿关系链进行推理，实现更复杂、更深入的逻辑分析。

  3. 结构化知识表示：

    相比平面文档结构，图结构能更自然地表示层级和非层级关系，更贴近现实世界的知识组织方式。

  4. 查询效率提升：

    对于涉及关系遍历的查询类型，图结构可显著提高处理效率。

在这里插入图片描述

图3：知识图谱示例

Graph RAG 的工作原理

Graph RAG 的工作流程可以概括为以下几个关键步骤：

  1. 查询处理：

    对输入查询进行分析和转换，使其适合图结构的查询格式。

  2. 图遍历：

    系统在图结构中进行探索，沿相关关系路径寻找连接的信息节点。

  3. 子图检索：

    不同于检索独立的信息片段，系统提取包含相互关联上下文的相关子图。

  4. 信息整合：

    将检索到的子图进行组合和处理，形成一个连贯、全面的上下文信息集。

  5. 响应生成：

    语言模型基于原始查询和整合后的图信息生成最终响应。

Graph RAG 处理流程图

在这里插入图片描述

图4：Graph RAG 处理流程示意图

标准 RAG 与 Graph RAG 的关键区别

  1. 知识表示方式：
    • 标准 RAG：采用平面文档结构
    • Graph RAG：使用图结构表示知识
  3. 检索机制：
    • 标准 RAG：主要依赖向量相似度搜索
    • Graph RAG：采用图遍历算法进行信息检索
  5. 上下文理解能力：
    • Graph RAG 能够捕捉更复杂的多步骤关系，这些关系在标准 RAG 中可能被忽略
  7. 推理能力：
    • Graph RAG 的图结构支持对相互关联信息进行更深入、更复杂的推理

在这里插入图片描述

图5：RAG 与 Graph RAG 对比示意

总结

Graph RAG 技术通过引入图结构化的知识表示和处理方法，显著增强了传统 RAG 系统的能力。它不仅提高了信息检索的准确性和完整性，还为复杂查询和多步推理提供了更强大的支持。这种方法在处理需要深度上下文理解和复杂关系分析的任务中，展现出了明显的优势。

随着知识图谱技术和图数据库的不断发展，Graph RAG 有望在各种高级人工智能应用中发挥越来越重要的作用，特别是在需要精确、全面信息检索和复杂推理的领域。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

AI小白龙*
关注
微软 GraphRAG教程系列 之 01 什么是GraphRAG？GraphRAG使用知识图谱在推理复杂信息时大幅提高问答性能
iCloudEnd的博客
07-17 385
GraphRAG 是一种结构化的、分层的检索增强生成 (RAG) 方法，不同于使用纯文本片段的简单语义搜索方法。GraphRAG 流程包括从原始文本中提取知识图谱、构建社区层次结构、为这些社区生成摘要，然后在执行基于 RAG 的任务时利用这些结构。检索增强生成 (RAG) 是一种使用真实世界信息改进 LLM 输出的技术。这种技术是大多数基于 LLM 的工具的重要组成部分，大多数 RAG 方法使用向量相似性作为搜索技术，我们称之为Baseline RAG。
实战GraphRAG（一）：初步体验GraphRAG及其与RAG的对比
mtl1994的博客
07-16 871
通过本文的初步体验，我们了解了GraphRAG与RAG的基本区别。GraphRAG利用知识图谱和社区摘要，提高了复杂信息处理和私有数据集推理的性能，虽然在搜索速度上略有不及，但其准确性和相关性表现更优。本文还通过实际示例展示了如何安装和配置GraphRAG，并执行全局搜索和本地搜索。GraphRAG在处理复杂查询和多源信息时展现了独特的优势，适合需要深度理解和综合分析的应用场景。未来，我们将进一步探讨其高级功能和优化方法。示例请参考GraphRAG文档。
解读 Graph RAG：从大规模文档中发现规律，找到相互关系，速度更快，信息更全面！
xx_nm98的博客
08-07 999
利用大模型对实体、关系和声明的描述进行抽象总结，形成对概念的独立有意义的摘要。这一过程依赖于大模型对文本本身未明确表述的概念（如隐含关系）的理解能力。为每个社区生成摘要，这些摘要不仅有助于理解数据集的全局结构和语义，而且在没有具体查询的情况下，也可用于对整个文档集合的理解。社区摘要的生成考虑了节点的重要性和连接度，以确保社区内的关键信息被有效捕捉。
GraphRAG = 知识图谱 + RAG，优化全局搜索+局部搜索
Debroon
07-01 3793
基于社区的多层次摘要策略。类似于医学综述文章，从概括性的疾病描述到具体的治疗案例详细讲述，Graph RAG通过从不同层次生成摘要，提供从广泛到具体的多维度信息视角。之所以使用多层次的社区摘要生成，是因为不同层次的摘要可以满足从一般到特定的不同查询需求，提供不同深度的信息视角，帮助用户更好地理解复杂的医学问题。这些子解法形成了一种链条的逻辑链，每个子解法都依赖于前一个解法的输出作为其输入，形成一个高效、层次分明的查询和分析流程，类似于医学诊断和研究中的步骤分解和逐级深入的方法。
GraphRAG 详解
m0_59164520的博客
07-24 1901
以 ChatGPT 为代表的大语言模型出圈后，企业级 LLM 的应用也越来越热，这其中一大部分应用都使用了 RAG 技术。传统 RAG 技术在某些场景下，可能存在以下几个问题，即使使用高级 RAG 方法通常也较难克服。1. 效率问题：基于向量的搜索方法采用数学方法，如聚类，树形结构或 HNSW 等近似最近邻算法，这些方法在处理极高维度数据，或非常复杂的信息结构时效果不好。另外，ANN 搜索算法如 HNSW 虽然可以提高效率，但构建和维护索引通常需要大量的计算资源。
GraphRAG 本地部署、调试、到图形化展示过程记录
最新发布
westlifeml的博客
09-30 824
GraphRAG 是一种结构化的、分层的检索增强生成（RAG）方法，而不是使用纯文本片段的语义搜索方法。GraphRAG 过程包括从原始文本中提取出知识图谱，构建社区层级(这种结构通常用来描述个体、群体及它们之间的关系，帮助理解信息如何在社区内部传播、知识如何共享以及权力和影响力如何分布)，为这些社区层级生成摘要，然后在执行基于 RAG 的任务时利用这些结构。
微软开源项目GraphRAG——基于知识图谱的RAG简介
洛阳泰山的博客
07-11 2511
在大型语言模型（LLM）的前沿研究中，一个核心挑战与机遇并存的领域是扩展它们的能力，以解决超出其训练数据范畴的问题。这不仅要求模型在面对全新数据时仍能保持卓越表现，还意味着开辟了全新的数据分析可能性，如在各种数据集中识别主题和语义概念，同时保留上下文和实体关系。在此背景下，微软研究院自豪地推出了GraphRAG——一项旨在显著提升LLM能力的重大突破。传统的检索增强生成（RAG）方法通过基于用户查询搜索信息，并将结果作为AI生成答案的参考，已成为大多数LLM工具不可或缺的一部分。
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
丨汀、的博客
07-08 473
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
从传统RAG到Graph RAG：知识图谱技术驱动下的链路转型与融合策略[DB-GPT、OpenSPG、Tugraph三合一]
丨汀、的博客
09-10 210
从传统RAG到Graph RAG：知识图谱技术驱动下的链路转型与融合策略
Vector | Graph：蚂蚁首个开源Graph RAG框架设计解读
南七小僧的学海无涯
08-09 394
RAG的目标是通过知识库增强内容生成的质量，通常做法是将检索出来的文档作为提示词的上下文，一并提供给大模型让其生成更可靠的答案。更进一步地，RAG的整体链路还可以与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）等技术结合，构成更广义的RAG问答链路。增强训练REALM引入了知识检索器增强大模型预训练，以改进大模型的问答质量和可解释性。增强微调RA-DIT实现了对大模型和检索器的双指令微调，RAFT。
GraphRAG：知识图谱+大模型
Python_cocola的博客
07-12 2719
结合知识图谱检索和向量检索，利用二者的优势提高搜索结果的准确性和相关性。
知识图谱检索增强的GraphRAG(基于Neo4j代码实现）
2401_84206094的博客
07-08 4146
对一个查询问题分别进行了测试, 与没有RAG，仅利用LLM生成回复的情况进行对比，在有GraphRAG 的情况下，LLM模型回答的信息量更大、准确会更高。
GraphRAG：一种新型的RAG技术
产品老A，6年互联网大厂AIPM，专注探索新型人机交互
07-18 3558
微软前几天发布的 GraphRAG 架构非常厉害，但是具体的原理和内容可能不太好理解。Neo4j 的 CTO 写了一篇详细的文章《GraphRAG 宣言：为 GenAI 增加知识》，通俗易懂的介绍了 GraphRAG 的原理、与传统 RAG 的区别、GraphRAG的优势、知识图谱的创建和利用知识图谱工作。
Graph RAG：知识图谱赋能大语言模型的新范式
FrenzyTechAI的博客
07-31 1258
从依赖自身“记忆”到学会“查资料”，再到拥有“知识地图”，Graph RAG 的出现，标志着 AI 问答技术进入了一个全新的阶段。传统的 RAG 技术虽然能够为 LLM 提供更丰富的知识来源，但它就像一个只会“照本宣科”的学生，缺乏对知识的真正理解。而 Graph RAG 则赋予了 AI 更强大的推理能力和逻辑思维能力，让 AI 能够像人类一样理解世界、解决问题。当然，Graph RAG 也并非完美无缺。它的性能很大程度上取决于知识图谱的质量和覆盖范围。
技术动态 | 基于知识图谱的大模型检索增强实现策略：Graph RAG实现基本原理及优化思路...
开放知识图谱
09-25 2131
转载公众号 |老刘说NLP我们继续来谈谈知识库增强大模型问答的话题，今天学到一个新词，RAG（Retrieval-Augmented Generation），指的是通过 RAG 模型来对搜索结果进行增强的过程，这个就是我们一直说的外挂知识库。在之前的文章中我们介绍了llamaindex利用摘要索引进行增强的方案，但这些都是利用非结构化文本在做。最近看到一个工作很有趣，https://siwei...
大模型 | GraphRAG技术最新全面综述（二）图引导的检索、图增强的生成、GraphRAG应用和评估
老皮的博客
08-23 1832
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
GraphRAG深入解析
马超的博客
07-25 1334
GraphRAG 建立在微软之前使用图机器学习的研究和工具的基础上。GraphRAG 流程的基本步骤包含索引和查询两部分。此时，我们有一个实体和关系的图、实体的社区层次结构以及 node2vec 嵌入。现在，我们希望基于社区数据并为每个社区生成报告。这让我们可以从多个粒度点对图表有一个高层次的了解。例如，如果社区 A 是顶级社区，我们将获得有关整个图表的报告。如果社区是较低级别的，我们将获得有关本地集群的报告。生成社区报告在此步骤中，我们使用 LLM 生成每个社区的摘要。
Graph RAG: 知识图谱结合 LLM 的检索增强
weixin_44324814的博客
10-10 2083
RAG（Retrieval Argumented Generation）这种基于特定任务/问题的文档检索范式中，我们通常先收集必要的上下文，然后利用具有认知能力的机器学习模型进行上下文学习（in-context learning），来合成任务的答案。这次，我们借助 LLM 的力量，强化下 RAG。
微软的GraphRAG：智能问答系统的革命
人工智能曾小健
04-15 1502
通过将AI生成的知识图与私人数据集集成，GraphRAG承诺通过专注于上下文相关性的重要性来提高响应的准确性，这是长期困扰研究人员和用户的挑战。这种方法上的创新意味着与传统RAG系统的分道扬镳，后者通常依赖于固定的文件或数据源，限制了它们适应新问题或复杂问题的能力。面对跨多个领域的复杂问题或需要精细化理解的情况，这些系统常常出现问题，提供的答案虽然在技术上是正确的，却错失了被问到的问题的本质。随着这项技术的发展，类人理解和AI之间的界限可能会变得模糊，重新定义我们与技术以及推动我们世界的信息之间的关系。
LlamaIndex RAG模型开发与文档索引可视化
资源摘要信息:"LlamaIndex RAG 开发" LlamaIndex RAG 开发涉及的知识点主要集中在自然语言处理（NLP）领域中的Retrieval-Augmented Generation（RAG）模型的应用、集成和文档索引技术，以及可视化操作等方面。下面...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值