AI大模型企业应用实战：RAG的核心-结果召回和重排序

最新推荐文章于 2024-08-12 09:56:19 发布
最新推荐文章于 2024-08-12 09:56:19 发布
阅读量897 收藏 18
点赞数 27
文章标签： 人工智能 数据库 AI大模型 大模型 RAG
原文链接：https://blog.csdn.net/qq_33589510/article/details/139683149
版权

1 完整RAG应用的检索流程

从用户输入Query到最终输出答案的各个步骤。整个流程包括Query预处理、检索召回、排序等关键环节，每个环节都有不同的技术和方法来提升检索效果。

2 Query预处理

2.1 意图识别

判断query问的是什么类型的问题，从而决定是否走RAG链路。

示例1
  • 深圳有啥好玩的？ 闲聊问题
  • VDB支持哪些检索算法？ 产品常见问题
示例2
  • 为啥某个MongoDB实例内存占用过高？ 检查类问题
  • 云Redis咋扩容？ 产品常见问题
流程图

2.2 生成同义query

针对query生成同义句，不同问法提高召回，检索结果做合并。

示例1：VDB支持哪些检索算法

  • 列举一下VDB所支持的检索算法
  • VDB有哪些可用的检索算法

示例2： 腾讯云向量数据库的优势是什么

  • 腾讯云向量数据库有哪些主要优点
  • 腾讯云向量数据库的核心竞争力是什么
流程图

2.3 query标准化

针对query中的专有名词、简写、英文做标准化处理。

示例1：VDB支持哪些检索算法

腾讯云向量数据库支持哪些检索算法

示例2：COS如何上传对象

腾讯云对象存储如何上传对象

流程图

3 检索召回

每次召回时，如何提升结果的排序效果，使与Query更相关的结果更靠前？

  1. 使用更有效的索引技术：使用更高级的索引技术如倒排索引、压缩倒排索引等可以加速检索过程并提高结果的相关性。这些技术可以使得相似的文档在索引中更靠近，从而使得相关的结果更容易被召回。
  2. 优化检索模型：使用适合任务的检索模型如BM25、BERT等，这些模型可以更好地捕捉文档之间的语义和相关性，从而提升召回结果的质量。
  3. 利用用户反馈：收集用户的点击、浏览、收藏等行为反馈信息，通过机器学习算法不断优化排序模型，使得更符合用户兴趣的结果更容易被召回并排在前面。
  4. 引入上下文信息：考虑查询的上下文信息，比如用户的地理位置、设备信息、搜索历史等，可以更好地理解用户意图，提升召回结果的相关性。
  5. 使用深度学习技术：利用深度学习技术如卷积神经网络、循环神经网络等，可以更好地学习文档之间的语义关系，从而提高结果的排序效果。
  6. 结合多种特征：结合文本特征、结构特征、用户特征等多种特征进行综合排序，可以更全面地考虑到文档与查询之间的相关性。

综合运用以上方法，可以在召回阶段有效提升结果排序效果，使得与Query更相关的结果更靠前。

Query预处理中，做了生成同义Query，最终应该如何合并检索结果？

  1. 加权融合：给每个查询生成的同义Query分配一个权重，并根据权重对检索结果进行加权融合。权重可以根据同义Query的相似性、生成方法的可靠性等因素来确定。
  2. 组合排序：将原始查询和同义查询的检索结果分别进行排序，然后将两个排序结果进行组合排序。可以根据不同的排序方法（如TF-IDF、BM25等）来进行组合排序，也可以采用机器学习模型进行组合排序。
  3. 基于规则的合并：制定一些规则来合并检索结果，例如保留两个查询中都包含的结果、去除重复的结果等。这种方法比较简单直接，但需要根据具体场景制定合适的规则。
  4. 交叉验证：将生成的同义Query和原始Query分别用于检索，并根据评估指标（如准确率、召回率等）来选择最优的检索结果。可以通过交叉验证或者在线评估来验证合并结果的效果。
  5. 利用用户反馈：收集用户对不同查询结果的反馈信息，根据反馈信息调整查询结果的排序和合并策略，使得更符合用户需求的结果更容易被展示在前面。

无论采用哪种方法，都需要结合具体的业务需求和数据特点来选择合适的合并检索结果的策略，以确保最终展示给用户的结果具有更高的相关性和质量。

如何在召回阶段，将召回的结果效果做得更优质，减少干扰信息对LLM的影响？

  1. 使用更精准的召回模型：使用更高效和精准的召回模型，如基于BERT、RoBERTa等预训练语言模型的语义匹配模型，能够更好地捕捉文本之间的语义关系，减少不相关文档的召回。
  2. 利用领域知识和规则过滤：结合领域知识和规则，对召回结果进行过滤和筛选，去除明显不相关或低质量的文档。例如，可以使用领域词典、实体识别等技术进行过滤。
  3. 考虑上下文信息：在召回阶段考虑用户的上下文信息，如搜索历史、用户兴趣等，通过个性化的方式调整召回结果，提高相关性。
  4. 引入负采样：在训练召回模型时引入负采样技术，增加负样本的多样性和难度，使得模型更好地区分干扰信息和相关信息。
  5. 加入用户反馈机制：收集用户对召回结果的反馈信息，如点击、滑动、停留时间等，根据反馈信息调整召回模型和排序策略，提高用户满意度和相关性。
  6. 优化评估指标：在评估召回结果时，不仅要关注传统的准确率、召回率等指标，还要考虑到与LLM输入的匹配度、语义相似度等指标，以更全面地评估召回结果的质量。

通过综合利用以上方法，在召回阶段可以更有效地优化召回结果，减少干扰信息对LLM的影响，提高模型的性能和效果。

4 排序

4.1 为啥要排序（Rerank）

Rerank：RAG中百尺竿头更进一步

Embedding模型存在一定的局限性：实际召回结果中，embedding没办法完全反应出语义的相似性，至少这K个文件的排名并不是我们认为的从高分到低分排序的。

排序模型的目的在于对召回内容有一个更合理的排序结果，减少提供给模型的上下文长度，长度越长，对模型来说压力越大。

基于Learning2Rank的思路提升文本语义排序效果：

Listwise的优化

指示函数做近似：

最终loss function：

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

黑客-雨
关注
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
丨汀、的博客
11-01 2912
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
【AI大模型应用开发】【RAG优化 / 前沿】0. 综述：盘点当前传统RAG流程中存在的问题及优化方法、研究前沿
同学小张的博客
03-07 3637
10个痛点问题，20+优化方法，8个前沿RAG研究。本文我们从RAG的流水线开始，全面梳理了当前传统RAG存在的问题，同时针对每个问题，总结了优化方法。并且，整理了当前前沿的RAG研究。
检索增强生成（RAG）-重新排序方法
HJ_blog
02-25 1395
如图 1 所示，重新排序的任务就像一个智能过滤器。当检索器从索引集合中检索出多个上下文时，这些上下文可能与用户的查询具有不同的相关性。有些上下文可能非常相关（图 1 中红色方框中突出显示的内容），而其他上下文可能只是略有相关甚至不相关（图 1 中绿色和蓝色方框中突出显示的内容）。重新排序的任务是评估这些上下文的相关性，并优先选择最有可能提供准确和相关答案的上下文。这样，LLM 就能在生成答案时优先考虑这些排名靠前的上下文，从而提高答案的准确性和质量。
03-RAG的核心 -结果召回和重排序
JavaEdge全是干货的技术号
06-14 543
无论采用哪种方法，都需要结合具体的业务需求和数据特点来选择合适的合并检索结果的策略，以确保最终展示给用户的结果具有更高的相关性和质量。：实际召回结果中，embedding没办法完全反应出语义的相似性，至少这K个文件的排名并不是我们认为的从高分到低分排序的。排序模型的目的在于对召回内容有一个更合理的排序结果，减少提供给模型的上下文长度，长度越长，对模型来说压力越大。通过综合利用以上方法，在召回阶段可以更有效地优化召回结果，减少干扰信息对LLM的影响，提高模型的性能和效果。示例2：COS如何上传对象。
读懂RAG这一篇就够了，万字详述RAG的5步流程和12个优化策略
chengxuyuanyy的博客
08-07 864
ChatGPT、GLM等生成式人工智能在文本生成、文本到图像生成等任务中表现出令人印象深刻的性能。但它们也存在固有局限性，包括产生幻觉、缺乏对生成文本的可解释性、专业领域知识理解差，以及对最新知识的了解有限。为了克服这些限制，提高模型的能力，有两种主要途径：一种是微调（Fine Tune）来更新模型，另一种是让他们能够与外部世界互动，以不同的形式和方式获取知识。微调固然效果好，可以让模型真正的“学会”一些私域知识。
改进召回（Retrieval）和引入重排（Reranking）提升RAG架构下的LLM应用效果
人工智能曾小健
09-21 9324
RAG架构来自于实际问题，而很多问题都是相似的，在效果优化层面，我们可以借鉴一些推荐系统等传统AI系统的优化经验，将其迁移过来，这对于改进RAG效果有很大的帮助，在后面的文章里，还将继续介绍具体场景的一些使用问题，欢迎关注。
Advanced RAG 04：重排序（Re-ranking）技术探讨
Baihai_IDP的博客
04-20 1189
本文介绍了两种主要的 Re-ranking 方法，并演示了如何将其融入到 RAG 系统中，提高系统性能。分别是：(1) 使用 Re-ranking 模型直接对检索到的文档和 query 之间的相关性进行评分和排序。作者介绍了一些可用的开源和商业 Re-ranking 模型；(2) 利用大语言模型（LLM）对文档和 query 进行深入理解，通过对相关性程度进行排序来实现 Re-ranking 。文中介绍了 RankGPT 这种基于 LLM 的 Re-ranking 方法。
解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化
sdgfafg_25的博客
12-04 1549
几个月前我们就聊过RAG的经典方案。前几天刚看完openAI在DevDay闭门会议上介绍的RAG相关的经验，有些新的感悟，借此机会再梳理下RAG相关的优化方案。推荐直接看原视频（外网）：召回的内容要可以回答问题，并且内容丰富度，包括同一问题多个观点，多角度：召回内容和问题相关，总不能召回100篇里面只有2篇和问题有关：召回内容间的观点一致性较高更高要求：高时效性，权威性，观点完整性，内容重复度低这里不妨借鉴前人经验，参考。过去几个月RAG的论文也像是把传统搜索的方案，使用LLM轮番做了一遍范式更新。
大模型学习笔记五：RAG
谢白羽
03-04 1407
1、LLM 的知识不是实时的2、LLM 可能不知道你私有的领域/业务知识搭建过程：1、文档加载，并按一定条件切割成片段2、将切割的文本片段灌入检索引擎3、封装检索接口4、构建调用流程：Query -> 检索 -> Prompt -> LLM -> 回复1、文档加载2、文档切分3、向量化4、灌入向量数据库。
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
丨汀、的博客
01-09 3174
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
【AI大模型应用开发】【LangChain系列】2. 一文全览LangChain数据连接模块：从文档加载到向量检索RAG，理论+实战+细节
同学小张的博客
02-06 4266
本文学习 LangChain 中的 数据连接（Retrieval） 模块。该模块提供文档加载、切分，向量存储、检索等操作的封装。最后，结合RAG基本流程、LangChain Prompt模板和输入输出模块，我们将利用LangChain实现RAG的基本流程。
使用模型来做召回和排序
Angus
05-23 1165
文本检索任务可以定义为: 给定一个文档集合，用户输入一个query来表达信息检索需求，借助于一个文本检索系统返回相关文档给用户。日常生活中，我们几乎天天都在用文本检索系统，比如谷歌、百度搜索，淘宝电商搜索，搜索系统已经成为用户获取信息的一个重要入口。对于文本检索任务，抽象出来的核心目标就是怎么去计算用户输入的 query和文档集合中每个doc的文本相似度。
RAG系列04：使用ReRank进行重排序
人工智能曾小健
05-06 1633
如上图所示，重排任务就像一个智能过滤器。当检索器从索引库中检索到多个上下文时，这些上下文与用户查询的相关性各不相同。有些可能非常相关（如图中红框所示），而另一些可能只是轻微相关甚至不相关（如图中的绿框和蓝框所示）。重排的任务就是评估这些上下文的相关性，优先考虑那些最有可能提供准确和相关信息的内容。这样，LLM 在生成答案时可以优先考虑这些排名靠前的上下文，从而提高回应的准确性和质量。换句话说，重排就像在开卷考试中，帮你从一堆学习资料中挑选出最相关的参考资料，以便你能更高效、更准确地回答问题。
langchain中的召回增强生成（RAG）一览
2301_81940605的博客
06-24 1128
RAG是一种通过额外的、通常是私有或实时的数据来增强LLM知识的技术。LLM能够推理各种广泛的主题，但它们的知识仅限于它们训练时的公共数据，到达其特定时间节点为止。如果你想构建可以推理私人数据或在模型截止日期之后引入的数据的人工智能应用程序，你需要用特定信息增强模型的知识。将适当的信息带入并插入到模型提示中的过程被称为“检索增强生成”（RAG）。
LLM Agent之再谈RAG的召回信息密度和质量
2301_81888214的博客
01-04 1184
话接上文的召回多样性优化，多路索引的召回方案可以提供更多的潜在候选内容。但候选越多，如何对这些内容进行筛选和排序就变得更加重要。这一章我们唠唠召回的信息密度和质量。同样参考，这一章对应环节，考虑排序中粗排和精排的区分主要是针对低延时的工程优化，这里不再进一步区分，统一算作排序模块。让我们先对比下重排和排序模块在经典框架和RAG中的异同排序模块，这里的价值可以是搜索推荐中的内容点击率，或者广告中的ecpm，价值由后面使用的用户来决定。
大模型检索召回系统：RAG技术的全面调查与未来展望
人工智能讲师分享前沿技术
04-24 1196
随着人工智能技术的飞速发展，大型语言模型（LLMs）在自然语言处理（NLP）领域取得了显著成就。然而，这些模型在处理特定领域或知识密集型任务时仍面临挑战，如产生错误信息或“幻觉”。为了克服这些难题，检索增强生成（Retrieval-Augmented Generation，简称RAG）技术应运而生，它通过整合外部数据库的知识来增强模型的生成能力，特别是在知识密集型任务中表现出色。
用通俗易懂的方式讲解：结合检索和重排序模型，改善大模型 RAG 效果明显
2301_78285120的博客
01-06 3211
重排序是信息检索系统中的一个重要步骤，它发挥着优化检索结果的关键作用。在初始检索阶段，系统根据某种标准（如相似度）返回一组文档。然而，由于初始排序可能并不总是能够准确反映文档与查询的真实相关性，因此需要进行重排序来提升检索结果的质量。
TensorFlow相关组件的安装
AAI666666的博客
01-11 1152
TensorFlow相关组件的安装
揭开RAG重排序（Rerankers）和两阶段检索（Two-Stage Retrieval）的神秘面纱
最新发布
春华秋实
08-12 200
此外，由于查询是在收到后才知道的，双编码器对查询的上下文一无所知（我们是在用户提出查询之前就已经创建了嵌入）。由于重排序器是在用户提出查询时才运行，这让我们能够针对具体查询分析文档的含义，而非仅生成一个泛化的、平均化的含义。然而，这在实际操作中是不可行的，因为大语言模型对可处理的文本量有限制，这个限制称为上下文窗口。第二，尽管大模型拥有高达100K Token的巨大上下文窗口，理论上可以包含大量文档，但我们仍然不能返回所有文档并填满上下文窗口来提高召回率。请注意，这里的文档A实际上等同于我们的查询。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值