论文略读：GRAG:GraphRetrieval-Augmented Generation

最新推荐文章于 2025-04-22 10:29:20 发布
最新推荐文章于 2025-04-22 10:29:20 发布
阅读量379 收藏
点赞数 2
分类专栏： 论文笔记 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40206371/article/details/143637259
版权

202404 arxiv

1 motivation

  • 在许多应用场景中，如科学文献网络、推荐系统和知识图谱，文档之间存在复杂的关联，这些关联在传统的RAG模型中常常被忽略
    • 例如，在处理科学文献时，RAG仅基于文本相似性的检索方法无法充分利用文献之间的引用关系和主题结构。这种忽视导致了生成质量的瓶颈。
  • ——>论文提出了GRAG，通过考虑文献之间的引用网络和主题分布将拓扑信息在检索阶段和生成阶段利用起来，提高生成式语言模型的生成质量和图场景下的上下文一致性

2 方法

GRAG: Graph Retrieval-Augmented Generation
Zjkorigin的博客
11-28 1175
在本节中，我们介绍 GRAG 的解决方案。如上图 (a) 所示，为了解决文本子图检索的挑战，我们提出了一种分而治之的策略。该策略基于以下假设：一个重要的子图由重要节点及其部分邻居组成。具体来说：我们首先搜索重要的自中心图（ego-graph）。然后将最相关的前 N 个自中心图合并，并通过**软剪枝操作（soft pruning）**减少冗余节点和边的影响，生成一个近似最优的子图结构。与直接子图搜索相比，我们的检索-剪枝方法将检索空间限制为 ∣V∣ 个自中心图，从而显著提高了效率。
【学习笔记】GRAG: Graph Retrieval-Augmented Generation
weixin_45838549的博客
11-16 1314
尤其是在不对 LLM 进行微调的情况下，通过生成检索到的文本子图的软提示（soft tokens），GRAG 显著优于微调过的 LLM，在所有指标和数据集上表现都更好。较大的模型（如 13B 参数的 llama2-13b-chat-hf）在图推理任务中的表现甚至可能不如较小的模型（如 7B 参数的 llama2-7b-chat-hf）GRAG 在一个大型数据集上训练后，能够在小型数据集上表现良好，说明 GRAG 具备一定的迁移能力，可以将学到的图编码能力应用于不同的数据集。在没有使用检索方法的情况下，
【论文精读(GraphRAG)】Retrieval-Augmented Generation with Graphs (GraphRAG)
最新发布
2301_79985417的博客
04-22 1069
GraphRAG 首次系统性整合图结构与检索增强生成，通过 “图构建 - 检索 - 组织 - 生成” 全流程创新，解决传统 RAG 在结构化数据中的语义与结构割裂问题。其在多模态检索、复杂推理等场景的显著提升，为知识图谱、科学发现等领域提供了高效解决方案。未来与无监督学习、实时计算的结合，将进一步推动 GraphRAG 在动态复杂系统中的应用，如实时金融风控、生物医药发现等。
Graph Retrieval-Augmented Generation: A Survey
weixin_44466434的博客
10-06 1178
1
【学习笔记】Graph Retrieval-Augmented Generation: A Survey
weixin_45838549的博客
11-07 708
GraphRAG研究综述
技术动态 | GraphRAG图检索增强生成技术总结：从基本方法、实现模块到评估方法...
开放知识图谱
09-11 1687
转载公众号 | 老刘说NLP本次分享关于GraphRAG的一个有意思的综述，会有收获。供大家一起参考并思考。一、关于GrpahRAG的一个有意思的综述图检索增强生成(GraphRAG)的方法、技术和应用综述，《Graph Retrieval-Augmented Generation: A Survey》，https://arxiv.org/abs/2408.08921，这个工作有点意思，系统化地概...
论文略读：FDTI: Fine-grained Deep Traffic Inference with Roadnet-enriched Graph （PKDD2023)
qq_40206371的博客
10-21 396
这是首次完成城市级别的细粒度交通预测。
论文略读：REALISTIC EVALUATION OF SEMI-SUPERVISED LEARNING ALGORITHMS IN OPEN ENVIRONMENTS
qq_40206371的博客
04-17 246
iclr 2024 spotlight reviewer 评分 8888。
论文略读：Graph Neural Processes for Spatio-Temporal Extrapolation
qq_40206371的博客
10-20 587
2023 KDD。
论文略读：LLMCarbon: Modeling the End-to-End Carbon Footprint of Large Language Models
qq_40206371的博客
04-15 311
准确预测密集型和MoE LLMs在其训练、推理、实验和存储阶段的碳足迹。iclr 2024 oral reviewer 评分 556810。
论文略读：Can Long-Context Language Models Subsume Retrieval, RAG, SQL, and More?
qq_40206371的博客
07-07 1394
支持从32k到128k，再到1M个标记的上下文长度。——>能够系统地评估模型性能随上下文长度增加的变化。SQL：理解自然语言查询并从数据库中提取信息。多示例上下文学习：从大量示例中学习并完成任务。视觉检索：根据文本描述找出相关图像或视频。文本检索：从大量文档中找出相关内容。LOFT的一个关键特性是其可扩展性。音频检索：匹配文本与相应音频。RAG：基于检索信息生成答案。
GRAG: 基于子图检索的 GraphRAG
Python_cocola的博客
10-18 1112
尽管检索增强生成（RAG）通过生成语言模型提升了响应的准确性和相关性，但在需要同时处理文本和拓扑信息的图结构场景中却显得不足。简单的RAG方法固有地忽略了文本图的结构复杂性，从而在生成过程中留下了关键缺陷。为了解决这一问题，作者引入了图检索增强生成（GRAG），它通过强调子图结构的重要性显著提升了检索和生成过程。与仅专注于基于文本实体检索的RAG方法不同，GRAG高度重视图拓扑结构，这对于生成上下文和事实连贯的响应至关重要。
使用grag工具生成Domain
wudith的专栏
07-21 5090
一、GRAG简介：        GRAG (Grails Application Generator)是针对Grails framework 开发而使用的自由的域对象生成器。GRAG可以读取数据库中的表结构，并根据表结构生成Domain类。有了GRAG工具的帮助，可以很方便地兼容旧数据库。二、使用说明：1、运行~/grag1.1/bin/gui.bat，进入工具主窗体；2、配置数据库的连接(左侧的Datasource)；3、执行Database | Create connection命令，连接数据库；4、
为什么说知识图谱 + RAG ＞ 传统 RAG？
金融机器智能社区
07-23 1670
你是否曾觉得自己的大脑充斥了一团乱麻般的随机事实？知识图谱模拟了我们大脑思考事物，以及事物间关系的方式，同时又规避了大脑会遗忘和错误决策等问题。我们可以将知识图谱视为带了主语、谓语和宾语的三元组。它们将信息表示为一个由相互连接的实体组成的网络，以及实体之间的关系。本质上，知识图谱利用基于图的数据模型，其中节点代表实体（如人、地点或概念的主体和宾语），边表示这些实体之间的关系或谓语。OpenSPG 是一个语义增强的可编程知识图谱，GitHub地址如下，欢迎大家Star关注~
Big Model Weekly | 第24期
AITIME_HY的博客
06-08 904
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！01Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality虽然Transformer一直是深度学习在语言建模中取得成功的主要架构，但诸如Mamba之类的状态空间模型（SSM）最近在小到中...
AI医疗系列之“MedGraphRAG”彻底改变了医学领域的人工智能 深入了解 RAG、GraphRAG 和 MedGraphRAG 的工作原理以及它们如何显著提高医学领域 LLM 响应的性能
iCloudEnd的博客
08-23 232
图形 RAG 或图形检索增强生成 (GRAG)通过合并知识图来扩展 RAG。虽然 RAG 本质上忽略了文本信息中的拓扑关系，但 GraphRAG 使得使用它成为可能。GRAG 的核心工作流程分为四个阶段：k 跳自我图的索引：此步骤涉及创建以每个节点（称为自我）为中心的可搜索子图，其中包括自我k步骤内的所有连接节点。图检索：此步骤从索引子图中检索给定查询最相关的自我图。软修剪：此步骤删除检索到的子图中不相关的实体，以减少它们对生成过程的影响。
GraphRAG的设计模式、挑战和改进思路
Hanscal
06-30 1124
通过探讨Graph RAG未来的优化与演进方向，总结了内容索引和检索生成阶段的不同改进思路，以及RAG向Agent架构的演化趋势。论文题目：GraphRAG: Design Patterns, Challenges, Recommendations论文链接：https://gradientflow.com/graphrag-design-patterns-challenges-recommendations/PS: 欢迎大家扫码关注公众号，我们一起在AI的世界中探索前行，期待共同进步！
GraphRAG：复杂查询的知识图谱新框架
cnzzs的博客
08-17 5361
微软最近发布了名为 GraphRAG(Graphs + Retrieval Augmented Generation)的创新 RAG 框架，这是一个将文本提取、语义网络分析，与大语言模型(LLM)的提示和总结功能结合在一起的端到端系统，用于深入理解文本数据集。在对私有数据中的复杂文本信息进行文档分析时，GrahRAG 使用...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UQI-LIUWJ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值