WeKnow-RAG:结合网络搜索和知识图谱的自适应检索增强生成方法

最新推荐文章于 2024-08-26 00:00:00 发布
最新推荐文章于 2024-08-26 00:00:00 发布
阅读量714 收藏 20
点赞数 29
文章标签： 知识图谱 人工智能 llama 语言模型 自然语言处理 vscode
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59163425/article/details/141401152
版权

1. 引言

大型语言模型(LLMs)在近年来取得了巨大的进展,展现出了成为通用人工智能(AGI)重要途径的潜力。然而,LLMs也面临着一些挑战,最突出的是它们容易产生事实不正确的信息,甚至生成"幻觉"内容,这严重影响了它们在实际场景中的可靠性。

为了解决这些问题,研究人员提出了检索增强生成(RAG)方法。RAG通过结合外部数据库和信息检索机制来增强LLMs的能力。本文提出的WeKnow-RAG方法更进一步,将网络搜索和知识图谱整合到RAG系统中,旨在提高LLM响应的准确性和可靠性。

2. WeKnow-RAG方法概述

WeKnow-RAG的核心思想是结合知识图谱的结构化表示和密集向量检索的灵活性。该方法主要包含以下几个关键组件:

  1. 基于网络的RAG

  2. 基于知识图谱的RAG

  3. 集成方法

让我们逐一深入了解这些组件。

2.1 基于网络的RAG

基于网络的RAG是WeKnow-RAG的重要组成部分,它包括以下几个步骤:

2.1.1 网页内容解析

首先,我们需要对网页内容进行解析,以便后续处理。这里使用了BeautifulSoup库来解析HTML源代码:

from bs4 import BeautifulSoup      def parse_html(html_content):       soup = BeautifulSoup(html_content, 'html.parser')       # 提取需要的内容       text = soup.get_text()       return text
2.1.2 分块

分块是将文档分割成多个段落的过程。WeKnow-RAG采用了基于token的分块方法。以下是一个简单的分块示例:

def chunk_text(text, chunk_size=500):       tokens = text.split()       chunks = []       for i in range(0, len(tokens), chunk_size):           chunk = ' '.join(tokens[i:i+chunk_size])           chunks.append(chunk)       return chunks
2.1.3 多阶段检索

WeKnow-RAG采用了多阶段检索方法,包括稀疏检索和密集检索:

  1. 第一阶段:使用BM25算法进行稀疏检索

  2. 第二阶段:结合稀疏检索(BM25)和密集检索(embedding similarity)

BM25算法的评分函数如下:

Score(query, C_i) = ∑(q_j ∈ query) IDF(q_j) · (f(q_j, C_i) · (k_1 + 1)) / (f(q_j, C_i) + k_1 · (1 - b + b · |C_i| / avg_dl))

其中:

  • q_j 是查询中的一个词

  • IDF(q_j) 是词 q_j 的逆文档频率

  • f(q_j, C_i) 是词 q_j 在文档 C_i 中的词频

  • k_1 和 b 是参数(通常 k_1 = 1.5, b = 0.75)

  • |C_i| 是文档 C_i 的长度

  • avg_dl 是语料库中的平均文档长度

2.1.4 答案生成与自评估

为了减少幻觉,WeKnow-RAG引入了一个自评估机制。LLM会对生成的答案进行置信度评估:

def generate_answer_with_confidence(query, context):       prompt = f"""       Question: {query}       Context: {context}              Answer the question and provide your confidence level (high, medium, low).       """       response = llm.generate(prompt)       # 解析响应,提取答案和置信度       return answer, confidence

2.2 基于知识图谱的RAG

知识图谱(KG)在WeKnow-RAG中扮演着重要角色,主要包括以下步骤:

2.2.1 领域分类

首先,系统会对问题进行领域分类:

def classify_domain(query):       prompt = f"Classify the domain of this query: {query}"       domain = llm.generate(prompt)       return domain
2.2.2 查询生成

根据领域分类结果,系统会生成相应的知识图谱查询:

def generate_kg_query(query, domain):       if domain == "music":           prompt = f"""           Generate a KG query for this music-related question: {query}           Available functions:           - get_artist_info(artist_name, info_type)           - get_song_info(song_name, info_type)           ...           """       # 其他领域的处理逻辑       kg_query = llm.generate(prompt)       return kg_query
2.2.3 答案检索与后处理

系统通过API调用知识图谱获取候选答案,然后进行后处理:

def retrieve_and_postprocess(kg_query):       raw_result = kg_api.call(kg_query)       processed_result = postprocess(raw_result)       return processed_result

2.3 集成方法

WeKnow-RAG采用了一种自适应框架,根据不同领域的特点和信息变化速度,智能地结合基于KG的RAG方法和基于Web的RAG方法:

def adaptive_rag(query):       domain = classify_domain(query)       if domain in ["encyclopedia", "open_domain"]:           return kg_based_rag(query)       elif domain in ["music", "movies"]:           kg_result = kg_based_rag(query)           web_result = web_based_rag(query)           return integrate_results(kg_result, web_result)       else:           return web_based_rag(query)

3. 实验结果

WeKnow-RAG在CRAG(Comprehensive RAG Benchmark)数据集上进行了评估。以下是一些关键的实验结果:

模型版本准确率幻觉率缺失率得分
版本10.3930.3190.2880.0743
版本20.4090.3160.2760.0929

从表格中我们可以看到,WeKnow-RAG的版本2相比版本1有了显著的提升,特别是在准确率和得分方面。

4. 结论与未来展望

WeKnow-RAG通过结合网络搜索和知识图谱,提出了一种新颖的检索增强生成方法。该方法在提高LLM响应的准确性和可靠性方面取得了显著成效。主要贡献包括:

  1. 开发了一个适应不同查询类型和领域的特定领域KG增强RAG系统

  2. 引入了结合稀疏检索和密集检索的多阶段网页检索方法

  3. 实现了LLM的自评估机制,减少了幻觉现象

  4. 提出了一个自适应框架,智能地结合基于KG和基于Web的RAG方法

未来的研究方向可能包括:

  • 进一步优化知识图谱的构建和更新策略

  • 探索更高效的多模态检索方法

  • 研究如何将WeKnow-RAG应用于更广泛的领域和任务

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

小马不会过河
关注
  • 29
    点赞
  • 踩
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
高级检索增强技术：Graph-RAG / Self-RAG：通过图谱关系联想、自我反思学习检索、生成和批判
禅与计算机程序设计艺术
02-21 317
RAG（Retrieval Argumented Generation）指的是通过 RAG 模型来对搜索结果进行增强的过程。具体来说，它是将检索技术和语言生成技术相结合来增强生成过程的一种技术，可以帮助传统搜索引擎生成更加准确、相关和多样化的信息来满足用户的需求。Graph RAG是一种基于知识图谱的检索增强技术，通过构建图模型的知识表达，将实体和关系之间的联系用图的形式进行展示，然后利用大语言模型 LLM进行检索增强。Graph RAG 将知识图谱等价于一个超大规模的词汇表，而实体和关系则对应于单词。
图数据库 NebulaGraph 发布了业界首个基于知识图谱的 RAG：基于知识图谱的检索增强生成
洛阳泰山的博客
07-12 903
在信息过载的时代，通过梳理海量数据以提供引人入胜且易于理解的准确搜索结果已经成为一场艰难的战斗。传统的搜索增强技术往往在处理复杂查询和聊天 GPT 等尖端技术带来的高需求时表现不佳。这就是图 RAG 进入的地方——这是由 NebulaGraph 制造的一个改变游戏规则的概念，它承诺彻底改革该领域。“图RAG” 是一个由 Neo4j 领先的概念。这项技术利用知识图谱与大语言模型（LLMs）相结合，为搜索引擎提供更全面的上下文理解能力。它可以帮助用户以更低的成本获得更智能、更精确的搜索结果。
WeKnow-RAG：融合网页搜索和知识图谱的检索增强生成自适应方法
步子哥的博客
08-15 989
通过设计专门的 RAG 系统，WeKnow-RAG 利用特定领域的知识图谱来满足各种查询和领域的需求，提高了事实性信息和复杂推理任务的性能。通过整合外部知识，RAG 方法可以减少 LLM 的幻觉，实现比传统微调方法更好的性能，特别是在需要高精度和最新信息的应用中 [18]。我们在 CRAG 数据集上的实验结果证明了我们方法的有效性，在不同领域和问题类型中实现了准确性的显著提高，并减少了幻觉。我们的方法将 KG 的结构化表示与密集向量检索的灵活性相结合，以提高 LLM 响应的准确性和可靠性。
智能融合知识图谱与网络搜索的新一代检索增强生成系统
步子哥的博客
08-15 594
WeKnow-RAG的诞生,犹如为大语言模型装上了一双"火眼金睛",让它能够在浩如烟海的信息世界中,精准地捕捉到最相关、最可靠的知识。这项创新不仅仅是技术上的突破,更是人工智能向着更加智能、更加可靠方向迈出的一大步。正如古希腊哲学家亚里士多德所说:"知识的第一步是认识到自己的无知。“WeKnow-RAG系统通过融合知识图谱的结构化表示和网络搜索的灵活性,使得大语言模型能够更好地"认识到自己的无知”,并在需要时主动寻求外部知识的支持。这种自知之明,恰恰是迈向真正智能的关键一步。
WeKnow-RAG
最新发布
ms44的专栏
08-26 553
本研究考虑一种特定领域的 KG 增强 RAG 系统，该系统旨在适应各种查询类型和领域，提高事实和复杂推理任务的性能。介绍了一种网页的多阶段检索方法，利用稀疏和密集检索技术来有效地平衡信息检索的效率和准确性。实施了法学硕士的自我评估机制，使他们能够评估对生成的答案的信心，从而减少幻觉并提高整体反应质量。提出了一种自适应框架，智能地结合基于 KG 和基于 Web 的 RAG 方法，以适应不同领域的特征和信息变化率。
论文笔记：Retrieval-Augmented Generation forAI-Generated Content: A Survey
qq_40206371的博客
03-27 1630
北大202402的RAG综述。
Self-RAG：通过自我反思学习检索、生成和批判
安静的软件工程师
01-20 1770
Self-RAG学习检索、生成和批评，以提高 LM 的输出质量和真实性，在六项任务上优于 ChatGPT 和检索增强的 LLama2 Chat。
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION
c_cpp_csharp的专栏
10-20 917
尽管大型语言模型（LLM）具有非凡的能力，但由于它们仅依赖于所封装的参数知识，因此它们通常会产生包含事实不准确的响应。检索增强生成（RAG）是一种通过检索相关知识来增强LM的特别方法，减少了此类问题。然而，不分青红皂白地检索和合并固定数量的检索段落，无论检索是否必要，或者段落是否相关，都会削弱LM的通用性，或者可能导致无益的响应生成。我们引入了一个新的框架，称为自反射检索增强生成（Self-RAG），通过检索和自反射来提高LM的质量和真实性。
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
丨汀、的博客
01-09 3031
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
【小迪安全笔记V2022】信息打6~8
2202_75354817的博客
08-25 519
小迪安全学习笔记
零基础学习人工智能—Python—Pytorch学习（六）
kiba518的博客
08-21 976
前言 本文主要讲神经网络的上半部分。 这篇文章开始有很多公式了，这些公式都很简单，但是如果是不经常在脑海里思考公式的人，那可能需要多花点时间做一下自我训练，个人感觉，也就几天时间，就能把自己感觉给调整出来。 习惯了公式看下面内容就会轻松很多，另外如果要深入学习人工智能，熟练的认知公式也是个必须的事情。 另外，我发现我前面文章写的有歧义的地方还是挺多，虽然，已经改了一部分，但，可能还有没发现的，大...
透明性和解释性AI：概念与应用
weixin_49007164的博客
08-25 685
透明性AI指的是AI系统的操作过程、决策机制、数据流动和模型行为是可理解和可追踪的。换句话说，透明性AI使得人们可以清楚地看到AI系统是如何做出决策的，这一过程包括输入数据的处理方式、模型的内部计算过程、以及最终决策的产生机制。解释性AI是指AI系统不仅能够给出决策结果，还能够提供关于该决策如何产生的解释。解释性AI的目标是帮助用户理解AI的行为，尤其是当AI的决策与预期不符时，提供合理的解释来消除用户的疑虑。
yolov8 出现loss 为nan
zhaoluruoyan89的博客
08-21 334
这篇博客警示读者在购买用于深度学习的显卡时要避开那些导致RuntimeWarning: All-NaN slice encountered的问题。作者强调这些Tensor核心存在严重缺陷，不适宜进行深度学习任务，建议大家在选购时务必谨慎。方法二：将混合精度训练AMP 设置为False。方法一：降低cuda和pytorch 版本号。
基于Python星载气溶胶数据处理与反演分析
lwjnlqiqi的博客
08-21 1202
Python星载气溶胶数据处理与反演分析
基于YOLO V8的PCB缺陷检测识别系统（python源码+Pyqt5界面+数据集+训练代码）
2401_83580557的博客
08-22 464
基于YOLO V8的PCB缺陷检测识别系统【python源码+Pyqt5界面+数据集+训练代码】
论大模型在金融行业的应用场景
m0_53773302的博客
08-25 354
需要指出的是，虽然上面这些场景都是大家能够最先想到的，但真正要做的很好，也不是那么容易，必须结合优质的技术架构与工具设计，模型优化，数据准备与处理，以及反复的尝试与试错，同时也不可避免的需要对所在行业与场景知识的专业性通过实操深入理解。但如果想到达到90%以上的准确率，那就必须结合专业细致的行业数据、话术抽象、切分，上下文学习/RAG使用，知识图谱的构造，人类反馈的常态化，模型的选择，模型微调中参数调优、数据质量与混合比例的调优、减少遗忘的策略设计，甚至模型结构的创新改造设计等手段综合起来，才可以达到。
直播美颜API与视频美颜SDK的开发指南：构建高效实时美颜工具
q1031691172的博客
08-23 205
不同用户对美颜效果的需求各异，因此，直播美颜API与视频美颜SDK应具备良好的可扩展性和自定义功能。开发者可以通过提供丰富的接口和插件机制，允许用户根据自己的需求调整美颜参数或添加新的美颜效果，从而提升用户满意度。
图卷积神经网络算法
2401_85886655的博客
08-21 603
元学习，自监督学，transformer，lstm，cnn，bert，GAN，强化学习 图神经网络推荐算法。图神经网络 图卷积神经网络 GNN GCN 算法 咨询 图卷积神经网络（GCN） python D码，应用于节点分类。元学习，自监督学，transformer，lstm，cnn，bert，GAN，交通预测 强化学习 图神经网络推荐算法。lightGCN NGCF 创新点1-3 movielen-1m数据集 指标：recall、ndcg。具体价格根据难易程度定。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值