改进召回（Retrieval）和引入重排（Reranking）提升RAG架构下的LLM应用效果

最新推荐文章于 2025-03-25 16:06:28 发布
最新推荐文章于 2025-03-25 16:06:28 发布
阅读量1w 收藏 23
点赞数 9
分类专栏： # 大模型RAG检索增强/知识库 LLM大语言模型 文章标签： 架构 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_37574187/article/details/133148623
版权

改进召回（Retrieval）和引入重排（Reranking）提升RAG架构下的LLM应用效果

原创 ully AI工程化 2023-08-24 21:08

收录于合集

#LLM应用架构3个

#领域技术13个

动手点关注

干货不迷路

如前文LLM应用架构之检索增强（RAG）的缘起与架构介绍，RAG架构很好的解决了当前大模型Prompt learning过程中context w

了解本专栏 订阅专栏 解锁全文 超级会员免费看
RAG系列04：使用ReRank进行重排序
强化学习曾小健
05-06 2345
如上图所示，重排任务就像一个智能过滤器。当检索器从索引库中检索到多个上下文时，这些上下文与用户查询的相关性各不相同。有些可能非常相关（如图中红框所示），而另一些可能只是轻微相关甚至不相关（如图中的绿框和蓝框所示）。重排的任务就是评估这些上下文的相关性，优先考虑那些最有可能提供准确和相关信息的内容。这样，LLM 在生成答案时可以优先考虑这些排名靠前的上下文，从而提高回应的准确性和质量。换句话说，重排就像在开卷考试中，帮你从一堆学习资料中挑选出最相关的参考资料，以便你能更高效、更准确地回答问题。
深度对比：Cohere Rerank 3.5、Multilingual-v3.0与English-v3.0
丨汀、的博客
01-07 369
能够处理超过100种语言的查询，尤其在阿拉伯语、日语和韩语等主要商业语言中表现突出根据 Cohere 内部测试，Rerank3.5在金融服务数据集上的表现相较于混合搜索系统提高了23.4%，与传统 BM25搜索算法相比提高了30.8%。对于在金融、政府、能源、制造业和医疗保健等专业行业运营的企业特别有用。例如，在我们精心挑选的代表常见用例的金融服务数据集上，Rerank 3.5 的性能比混合搜索高出 23.4%，比 BM25 高出 30.8%Rerank 3.5 还提供业界领先的多语言功能。
LLM in Reranking——利用LLM进行重排
Kaiyuan_sjtu的博客
10-16 1194
作者|酯基整理|NewBeeNLPhttps://zhuanlan.zhihu.com/p/660596492后台留言『交流』，加入 NewBee算法讨论组重排器（Reranker）作为信息检索的第二阶段，需要根据查询和文档的相关性，对候选文档做细粒度的排序。经典的重排方法一般使用交叉编码器，结合文档和查询的语义信息进行打分和排序。现有的涉及LLM的重排方法大致可以分为三类：用重排任务微...
LLM Rerank重排序模型介绍及选型建议
最新发布
学亮编程手记
03-25 1760
Rerank（重排序）是信息检索流程中的第二阶段，旨在对初步召回的候选文档进行细粒度排序，以提升结果与查询的相关性。其核心是通过语义理解模型对文档与查询的匹配度进行深度评估，超越传统关键词匹配或向量相似度的限制。
LLM Agent之再谈RAG的召回信息密度和质量
2301_81888214的博客
01-04 1336
话接上文的召回多样性优化，多路索引的召回方案可以提供更多的潜在候选内容。但候选越多，如何对这些内容进行筛选和排序就变得更加重要。这一章我们唠唠召回的信息密度和质量。同样参考，这一章对应环节，考虑排序中粗排和精排的区分主要是针对低延时的工程优化，这里不再进一步区分，统一算作排序模块。让我们先对比下重排和排序模块在经典框架和RAG中的异同排序模块，这里的价值可以是搜索推荐中的内容点击率，或者广告中的ecpm，价值由后面使用的用户来决定。
[使用Cohere Reranker优化信息检索：深入了解与实战指南]
cgsayuclv的博客
11-15 492
通过Cohere Reranker，我们能够大幅提升信息检索的准确性。Cohere 官方文档Langchain 使用指南。
Advanced RAG 04：重排序（Re-ranking）技术探讨
Baihai_IDP的博客
04-20 1903
本文介绍了两种主要的 Re-ranking 方法，并演示了如何将其融入到 RAG 系统中，提高系统性能。分别是：(1) 使用 Re-ranking 模型直接对检索到的文档和 query 之间的相关性进行评分和排序。作者介绍了一些可用的开源和商业 Re-ranking 模型；(2) 利用大语言模型（LLM）对文档和 query 进行深入理解，通过对相关性程度进行排序来实现 Re-ranking 。文中介绍了 RankGPT 这种基于 LLM 的 Re-ranking 方法。
RAG 04：重排序（Re-ranking）技术探讨
DEVELOPERAA的博客
05-14 1万+
重排序（Re-ranking）技术在检索增强生成（Retrieval Augmented Generation，RAG）全流程中起着至关重要的作用。在最原始的 RAG 方法中，可能会检索到大量的上下文，但并非所有上下文都与问题相关。
推荐系统技术演进趋势：召回->排序->重排
人工智能学家
12-31 2200
来源：DataFunTalk导读：推荐系统技术，总体而言，与 NLP 和图像领域比，发展速度不算太快。不过最近两年，由于深度学习等一些新技术的引入，总体还是表现出了一些比较明显的技术发展...
LLM - 重排序（Rerank）
小工匠
03-22 2221
重排序模型虽然速度较慢，但其在精准度上的优势使其成为现代检索系统中不可或缺的一环。通过两阶段检索策略，我们可以在第一阶段快速召回候选文档，然后在第二阶段通过重排序模型进行精细排序，这种策略在处理复杂的问答任务和生成任务时尤为重要，因为它能够确保最终返回的文档不仅数量适中，而且相关性更高,从而在效率与精准度之间找到最佳平衡。
03-RAG的核心 -结果召回和重排序
JavaEdge全是干货的技术号
06-14 1797
无论采用哪种方法，都需要结合具体的业务需求和数据特点来选择合适的合并检索结果的策略，以确保最终展示给用户的结果具有更高的相关性和质量。：实际召回结果中，embedding没办法完全反应出语义的相似性，至少这K个文件的排名并不是我们认为的从高分到低分排序的。排序模型的目的在于对召回内容有一个更合理的排序结果，减少提供给模型的上下文长度，长度越长，对模型来说压力越大。通过综合利用以上方法，在召回阶段可以更有效地优化召回结果，减少干扰信息对LLM的影响，提高模型的性能和效果。示例2：COS如何上传对象。
以FastGPT为例提升Rag知识库应用中的检索召回命中率
洛阳泰山的博客
07-26 4113
要想提升语义检索的准确度，需要从以下几个方面入手尽量保持知识库的分段字数相近尽量避免同一段落内出现太多意思相近的词当用户输入多个问题里包含多个关键词时，如果想让有些关键词的检索时候权重高一点，需要人工在对应段落，增加该关键词的向量索引。
#RAG | AIGC # RAG召回率提升的方法以及优劣势
weixin_45312236的博客
05-22 4571
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能够检索到的相关文档占所有相关文档的比例。：通过改进召回过程来提高从大规模语料库中检索与给定查询相关的文档的准确性和效率[：在召回过程中纳入查询和文档的上下文信息，可以更准确地判断文档与查询的相似度[
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
热门推荐
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
Cohere AI 推出 Rerank 3.5：搜索技术的新时代
m0_59164304的博客
12-17 841
在信息爆炸的时代，企业对搜索技术的依赖已不仅仅是为了找到内容，而是为了提升效率和生产力。然而，传统搜索模型往往难以真正理解用户意图，导致搜索结果不准确、不相关甚至不完整。这种体验不仅让用户倍感挫败，还可能拖累企业的运转效率，甚至影响收入增长。在这样的背景下，Cohere AI 推出了全新的 Rerank 3.5。这一搜索基础模型重新定义了搜索系统如何理解和排序结果，弥补了当前模型的关键缺陷。它通过对用户查询进行深度理解和智能排序，帮助企业在海量数据中快速找到“针尖上的信息”，提高搜索体验并推动业务发展。
RAG(检索增强生成)在LLM(大型语言模型)中的应用
fudaihb的博客
01-24 2819
在当今信息时代，大型语言模型（LLM）的崛起标志着自然语言处理领域的一次重大进步。这些模型不仅是深度学习的杰出代表，而且在多个领域中取得了显著的成功。本文将聚焦于检索增强生成（RAG）技术在大型语言模型中的应用，深入探讨其原理、应用以及与传统生成模型的差异
RAG框架，都在这了!
python12345_的博客
06-09 6249
RAG 很多人都听说过，或者实践过，目前最直接的应用就是构建智能问答系统。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值