SELF-RAG: 当AI学会自我反思，检索、生成与批评能力全面提升

最新推荐文章于 2025-02-27 22:21:29 发布
最新推荐文章于 2025-02-27 22:21:29 发布
阅读量980 收藏 30
点赞数 10
分类专栏： AGI通用人工智能 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-NC-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_36829761/article/details/142116006
版权

🌟 引言

人工智能的发展日新月异,但如何让AI具备更强的推理能力、更准确的事实性和更高质量的输出一直是研究的重点。近日,一篇发表在ICLR 2024(国际学习表示大会)的论文《SELF-RAG: Learning to Retrieve, Generate and Critique through self-reflection》(SELF-RAG:通过自我反思学习检索、生成和批评)引起了广泛关注。这篇由华盛顿大学和Allen人工智能研究所的研究人员共同完成的论文,提出了一种全新的框架,让AI模型在生成过程中能够进行自我反思,大幅提升了输出的质量和可靠性。让我们一起来探索一下这个令人兴奋的新技术吧!

🔍 SELF-RAG:一种全新的检索增强生成框架

SELF-RAG vs 传统RAG

传统的检索增强生成(RAG)方法通常是这样工作的:首先根据输入查询检索相关文档,然后将检索到的文档和查询一起输入到语言模型中生成回答。这种方法虽然在一定程度上提高了输出的事实性,但仍存在一些局限性:

  1. 检索过程是固定的,无法根据生成过程中的需求动态调整。
  2. 模型无法判断检索到的内容是否真的有用。
  3. 缺乏对自身输出的评估和改进机制。

而SELF-RAG框架则巧妙地解决了这些问题。它的核心思想是:让AI在生成过程中不断进行自我反思,根据需要灵活地进行检索,并对自己的输出进行多方面的评估和改进。

SELF-RAG

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Self-RAG：通过自我反思学习检索、生成和批判
安静的软件工程师
01-20 2273
Self-RAG学习检索、生成和批评，以提高 LM 的输出质量和真实性，在六项任务上优于 ChatGPT 和检索增强的 LLama2 Chat。
【RAG 论文】Self-RAG：引入自我反思的大模型 RAG 框架
VLyb
04-21 7355
Self-RAG：在 RAG 框架中引入自我反思机制，提高检索增强的效果
SELF-RAG: 通过自我反思学习检索、生成和批判
Yuleave的博客
01-21 1200
SELF-RAG 是一种创新的框架，通过按需检索和自我反思来提高 LLM 的生成质量和事实准确性。实验结果表明，SELF-RAG 在多个任务上均优于现有的 LLM 和 RAG 方法。SELF-RAG 的核心思想是让 LLM 在生成过程中进行自我反思，并通过生成特殊的**反思标记（Reflection Tokens）**来控制其行为。SELF-RAG 在推理过程中通过生成反思标记来自我评估其输出，从而实现对模型行为的控制。来提高 LLM 的生成质量和事实准确性，同时不损害其创造力和灵活性。
大模型RAG(检索增强)创新--SELF-RAG
最新发布
编程就像打游戏，编出一个项目就打过了一个BOSS
02-27 792
检索增强生成 (RAG) 提供了一种将 ChatGPT/GPT-4 等大型语言模型与自定义数据集成的途径，但存在局限性。让我们看看 RAG 最近的研究是如何解决一些问题。大语言模型(LLM)将改变整个金融领域。其中一个场景是大语言模型可以学习大量文档，并在很短的时间内分析趋势并分析收益。但存在的问题是很多时候你得到的答案只是部分且不完整的。举例来说，您有一个文档，其中包含 X 公司过去 15 年的年收入，但位于不同的段落。
Self-RAG讲解
xnuscd的博客
11-12 1241
首先，定义图的状态结构，包含问题、生成的回答、是否进行网络搜索以及相关文档列表。表示图的状态。属性：question: 用户问题generation: LLM生成的回答web_search: 是否进行网络搜索documents: 文档列表解释：GraphState：定义了图的状态结构，包括用户问题（question）、生成的回答（generation）、是否进行网络搜索（web_search）和相关文档列表（documents构建图的逻辑流程，包括检索、生成、评分和重写等节点。"""
Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection
yzsjwd的博客
01-12 1324
整个训练和推理过程都不算复杂，借助了 LLM 本身的能力对外挂的知识库进行评估和反思，数据的准备也不算困难，有不错的借鉴意义，可以考虑内嵌进一些常见的 RAG 框架进行尝试。这种分阶段的训练和 PPO 类似，应该比较考验 Critic 模型的能力，可能有一些训练的坑需要发掘。比较注重推理的质量，没有考虑推理的时间成本，单个请求可能需要多次检索知识库。并行生成结果时看不到其他召回结果，也可能导致回答不全面，反而降低质量。期待后续的优化。
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION----自我反思：学会通过自我反思来检索
Mars_prime的博客
03-28 1654
尽管大型语言模型（LLM）具有非凡的能力，但由于它们完全依赖于它们封装的参数知识，因此通常会产生包含事实不准确的响应。检索增强生成（RAG）是一种通过检索相关知识来增强语言模型的临时方法，可以减少此类问题。然而，不加区别地检索和合并固定数量的检索到的段落，无论检索是否必要，或者段落是否相关，都会降低 LM 的多功能性或可能导致生成无用的响应。我们引入了一个名为自反射检索增强生成（SELF-RAG）的新框架，它通过检索和自反射来提高 LM 的质量和事实性。
探索 Auto-RAG：提升人工智能知识获取与生成能力的新路径
llm_way的博客
12-28 1919
大型语言模型（LLMs）以其生成连贯和创造性文本的能力而闻名，但它们往往容易受到事实不准确或信息过时的影响。为了缓解这些挑战，检索增强生成（Retrieval-Augmented Generation，RAG）()技术应运而生，成为连接语言流畅性和事实准确性之间差距的关键桥梁。Auto-RAG，作为RAG技术的一个自主迭代检索模型，正逐步成为知识密集型AI任务的新标杆。
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION翻译
nopSled
10-26 998
尽管模型和数据规模不断扩大，SOTA的LLM仍然会产生事实类错误。检索增强生成 (RAG) 方法（图 1 左）通过检索相关段落来增强LLM的输入，从而减少知识密集型任务中的事实错误。然而，这些方法可能会阻碍LLM的多功能性，或者引入不必要的或偏离主题的段落，从而导致低质量的生成，因为它们不加区别地检索段落，而且不管事实基础是否有帮助。此外，不能保证输出与检索到的相关段落一致，因为模型没有经过明确的训练来利用和遵循所提供段落中的事实。
【论文速读】Self-Rag框架，《Self-Rag: Self-reflective Retrieval augmented Generation》
bylander的博客
05-30 1438
Self-Rag框架训练一个任意的LLM，使其能够根据需求按需检索段落，并使用特殊的反思token来生成和反思检索到的段落以及自身的生成内容。反思token在推理阶段使LLM可控，使其能够根据不同任务需求调整行为
论文翻译 | SELF-RAG: 学习通过自我反思来检索、生成和评估
m0_49651195的博客
06-21 1361
尽管大语言模型（LLMs）具有非凡的能力，但是它们经常产生不符合事实的响应，因为它们只依赖于它们封装的参数化知识。检索增强生成(retrieve - augmented Generation, RAG)是一种通过检索相关知识来增强LMs的特殊方法，减少了此类问题。然而，不加选择地检索和合并固定数量的检索段落，无论检索是否必要，或者段落是否相关，都会降低LM的通用性，或者可能导致无益的响应生成。
【AI论文精读6】SELF-RAG（23.10）P2
AI完全体
10-19 1295
论文精读：该论文训练了一个单一的语言模型，该模型能够根据需要自适应地进行段落检索。在多项任务上显著超越了当时最新的大型语言模型和检索增强模型。我前面读的两篇RAG综述论文都提到了它。它是我后面要读的一篇RAG论文的重要基础。代码和模型开源，且附录部分有对实验部分的详细说明，方便学习和参考。这是我对第2部分的解读。
一文彻底搞懂Self-RAG【下】：构建自省式的RAG应用与模型微调
2401_84204413的博客
06-17 1621
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。注意看下图中的两个例子，右边的例子中借助评估模型的判断，发现需要检索，因此插入了[Retrieve]，[Relavant]等标记token，据此形成了一条新的训练数据。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
揭秘Self-RAG：引领大型语言模型生成质量的新潮流！
lyy2017175913的博客
10-17 901
Self-RAG（Self-Reflective Retrieval-Augmented Generation）是一种新型的检索增强生成框架，旨在提高大型语言模型（LLM）的生成质量和准确性。Self-RAG通过引入“反思标记”（reflection tokens），使得模型能够根据具体需求动态决定是否进行信息检索。这种方法不仅减少了不必要的检索操作，还提高了生成内容的准确性和相关性。
一文彻底搞懂Self-RAG【上】：自省式RAG的原理与应用
2401_84204413的博客
06-17 3406
之前我们探讨过RAG Flow，其实很难有完美的RAG范式匹配所有需求，毕竟业务需求是复杂的：有的需要绝对的准确性，有的则更看重灵活性；有的用来搜索，有的用来聊天，也有的用来服务其他Agent。后续我们会选择一些典型的RAG研究项目做深入实践，希望对大家在应用时提供更多的参考价值。，很多朋友或许听过，即自省式RAG。其原始Paper与开源项目很容易看的云里雾里，被一些数学符号与公式吓到，且其中有大量内容是关于算法与模型微调，而应用层面介绍较少。
逐步实践复现 SELF-RAG
安静的软件工程师
07-11 1398
逐步编码实践复现SELF-RAG
从 RAG 到 Self-RAG —— LLM 的知识增强
weixin_40920183的博客
11-11 2205
作者：紫气东来（上海交大 工学硕士）一、 RAG 及其必要性1.1 初识 RAGRAG（Retrieval Augmented Generation, 检索增强生成），即 LLM 在回答问题或生成文本时，先会从大量文档中检索出相关的信息，然后基于这些信息生成回答或文本，从而提高预测质量。RAG 方法使得开发者不必为每一个特定的任务重新训练整个大模型，只需要外挂上知识库，即可为模型提供额外的信息...
手把手代码复现Self RAG
m0_59235945的博客
08-07 2378
尽管大型语言模型(LLM)具有出色的能力，但由于它们完全依赖于其所包含的参数化知识，往往会产生包含事实错误的回答。所以现在很多人开始使用检索增强生成(RAG)方法，通过检索相关知识来增强LM，从而减少这些问题。但RAG本身也存在很多难点，例如召回文档不准确、大模型的整理能力有限、大模型虚构等，受这些问题影响，RAG的回答也可能不准确。所以近期有学者提出了Slef RAG的方法，该方法通过按需检索和自我反思来改进LLM的生成质量。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

步子哥

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值