RAG多路召回率的提高

最新推荐文章于 2024-08-07 11:47:44 发布
最新推荐文章于 2024-08-07 11:47:44 发布
阅读量455 收藏 1
点赞数 2
文章标签： python 系统架构 AI编程 全文检索 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39060924/article/details/139811126
版权

目前RAG还在快速发展，本帖总结了目前流行的五种思路。进一步讨论请留言
——————-
RAGFlow的做法：加权求和，缺点较为明显（当其中一种检索方式给出的完全不准确时，会影响到整体的结果）
DIFY的做法：同时执行全文检索和向量检索，并应用重排序步骤，从两类查询结果中选择匹配用户问题的最佳结果，需配置 Rerank 模型 API。
Elasticsearch的做法：基于向量检索和全文检索进行多路召回，然后用线性加权总和基于结果倒数的融合排序（RRF）两种方式。
百度智能千帆：在检索问答时通过知识点来索引到对应的切片，大模型根据切片内容生成答案，开启知识增强会调用大模型抽取更加丰富的知识点，增加切片的召回率。
Kimi的做法：增强模型输入的上下文大小，以减少对文档切片的次数。这样会降低匹配中目标切片的难度。

#RAG #检索增强 #搜索引擎 #算法工程师 #计算机专业

编程咩
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Dify与RAGFlow结合：智能应用开发与深度文档理解的优化
全世界的博客
07-01 2658
RAGFlow是一个专为深度文档理解和检索增强生成而设计的引擎，它结合了预训练的大型语言模型（LLMs）和高效的检索技术，为用户提供了一个强大的工具来处理复杂的问题和场景。RAGFlow的核心优势在于其混合检索能力，它能够从大规模知识库中检索相关文档，然后将这些信息与模型的生成能力相结合，生成更准确、更全面的答案。这种混合方法特别适用于处理需要深度理解和综合多个信息源的问题，如智能客服、搜索引擎和知识库应用。RAGFlow的工作流程包括两个主要部分：检索和生成。
#RAG | AIGC # RAG召回率提升的方法以及优劣势
weixin_45312236的博客
05-22 2202
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能够检索到的相关文档占所有相关文档的比例。：通过改进召回过程来提高从大规模语料库中检索与给定查询相关的文档的准确性和效率[：在召回过程中纳入查询和文档的上下文信息，可以更准确地判断文档与查询的相似度[
三种高级RAG检索方法帮企业告别冗长文档！
weixin_42570296的博客
07-04 109
前言RAG(Retrieval-Augmented Generation)检索增强生成，是现如今基于企业私域知识的问答应用所使用的主流技术之一。相较于重新训练基于私域知识的大模型来说，RAG没有额外的预训练成本，且回答效果与之相当。但在实际应用场景中，RAG所面临最大的问题是LLM的上下文长度限制。企业私域知识文本的数量十...
LLM Agent之再谈RAG的召回信息密度和质量
2301_81888214的博客
01-04 1178
话接上文的召回多样性优化，多路索引的召回方案可以提供更多的潜在候选内容。但候选越多，如何对这些内容进行筛选和排序就变得更加重要。这一章我们唠唠召回的信息密度和质量。同样参考，这一章对应环节，考虑排序中粗排和精排的区分主要是针对低延时的工程优化，这里不再进一步区分，统一算作排序模块。让我们先对比下重排和排序模块在经典框架和RAG中的异同排序模块，这里的价值可以是搜索推荐中的内容点击率，或者广告中的ecpm，价值由后面使用的用户来决定。
langchain中的召回增强生成（RAG）一览
2301_81940605的博客
06-24 1071
RAG是一种通过额外的、通常是私有或实时的数据来增强LLM知识的技术。LLM能够推理各种广泛的主题，但它们的知识仅限于它们训练时的公共数据，到达其特定时间节点为止。如果你想构建可以推理私人数据或在模型截止日期之后引入的数据的人工智能应用程序，你需要用特定信息增强模型的知识。将适当的信息带入并插入到模型提示中的过程被称为“检索增强生成”（RAG）。
TensorFlow相关组件的安装
AAI666666的博客
01-11 1049
TensorFlow相关组件的安装
解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化
sdgfafg_25的博客
12-04 1538
几个月前我们就聊过RAG的经典方案。前几天刚看完openAI在DevDay闭门会议上介绍的RAG相关的经验，有些新的感悟，借此机会再梳理下RAG相关的优化方案。推荐直接看原视频（外网）：召回的内容要可以回答问题，并且内容丰富度，包括同一问题多个观点，多角度：召回内容和问题相关，总不能召回100篇里面只有2篇和问题有关：召回内容间的观点一致性较高更高要求：高时效性，权威性，观点完整性，内容重复度低这里不妨借鉴前人经验，参考。过去几个月RAG的论文也像是把传统搜索的方案，使用LLM轮番做了一遍范式更新。
一文详谈RAG优化方案与实践
weixin_45583158的博客
06-19 589
导读RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。一、RAG的背景介绍随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。通义系列、GP...
大模型学习路线（3）——知识检索增强（RAG）
qq_51175703的博客
03-19 2110
上图为LLM+RAG运行的整体流程。如果想对RAG有系统化的理论认知，基本看如下三篇技术概览足矣，其它不再多做赘述了，毕竟没必要重复造轮子(bushi。章节一的三篇技术概览了RAG理论部分，从RAG整体流程介绍，到RAG流程涉及每一步骤的细节详解、常用技术，再到总结、当下发展、未来展望。章节二为进阶部分，介绍了RAG的关键技术。章节三介绍了RAG的实践，RAG之前跑的demo忘保存了，找时间补回来，留个坑位先......（饼先搁这画上了）。RAG内容为LLM岗重点考察内容，涉及知识点多的嘞！！！
AGI｜基于LangChain实现的三种高级RAG检索方法
在数字化道路无限探索
05-07 1162
自动合并检索方法，实现方法源自Llamaindex所封装的自动合并检索，但RAG全流程需要制定一套准确的规范，因此在用户文档完成读取和切片工作后，所得到的Langchain格式的Document对象需转化为Llamaindex定义的Document对象，便可通过Llamaindex的自定义算法自动划分整个切片列表的子节点和父节点，最后鉴于规范再重新转化为Langchain格式的Document对象，并将父节点信息、深度信息等封装进每个节点。由此可见，多路召回检索在数据源广而杂的情况下，富有更好的效果。
RAG 的是与非、Rewrite 和 Rerank
素履独行 | 元培的个人博客
04-28 962
有时候，我觉得人类还真是种擅长画地为牢的动物，因为突然发现，当人们以文化/理念的名义形成团体/圈子的时候，其结局都不可避免地走向了筛选和区分的道路。或许，大家都不约而同地笃信，在成年人的世界里，那条不成文的社交潜规则——“与千百年前百家争鸣不同，团体/圈子间并不热衷于交流，倒像是一种标签化的分类方式，甚至是一种非黑即白的二元分类方式。比如，通常人们认为男性不能讨论女性主义，可我经常在女性主义视角下看到对男性的讨论。女性朋友们一致认为，女性种种不幸完全是由男性以及男性背后的父权造成的。
RAG+编排流方案实战总结[3]：工业级别构建私域问答场景深化版（提示词优化、召回效果优化、产品体验优化）
最新发布
丨汀、的博客
08-07 337
RAG+编排流方案实战总结[3]：工业级别构建私域问答场景深化版（提示词优化、召回效果优化、产品体验优化）
（13-5）RAG基础知识介绍：RAG融合、编码器、 LLM 微调和RAG评估
码农三叔
02-04 1602
这种双编码器的技术调整了LLM和检索器，通过调整查询、上下文和答案的三元组，达到更好的性能。更先进的方法不仅考虑了命中率，还包括了一些常见的搜索引擎评估指标，如平均倒数排名（Mean Reciprocal Rank），以及生成答案的质量指标，如真实性和相关性，这在OpenAI的实用指南中得到详细展示。RAG系统的性能评估工作是确保其有效运作的关键，在当前市面中，各种主流框架都提供了多个独立的指标，用于综合评估系统的不同方面，这些指标包括总体答案相关性、答案基础性、忠实度以及检索到的上下文相关性。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 8093
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
RAG私域问答场景超级详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）
丨汀、的博客
08-06 379
RAG私域问答场景整体夏详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）
自学记录：阿里云天池推荐系统实践 - 多路召回
一専的博客
11-30 845
关于多路召回 多路召回是指采用不同的策略、特征或者简单模型，分别召回一部分候选集，然后再把这些候选集混合在一起供后续排序模型使用的策略。 关于为啥要采用多路召回，是因为在召回的时候，计算速度和召回率这两会互相矛盾，若想要提高计算速度就要简化召回策略，而简化召回策略往往会使召回率下降，同理，若想要提高召回率的话就必须得使用复杂的召回策略，这时计算速度又会相应降低了。我们要鱼和熊掌兼得，就得权衡两者，故采用多个简单召回策略叠加的多路召回策略。 如图为多路召回示意图，在多路召回中，每个策略直接相互独立，并发多线
向量数据库路在何方？结合RAG的发展谈谈它的未来
datageek的博客
01-17 1417
数据库网红教授 Andy Pavlo 于 2024 年 1 月 4 日他的博客发表了 2023 年度数据库报告，正文开始就是向量数据库的兴起。对于所有数据库从业人员来说，都知道 2023 年是向量数据库的大年，这从 2023 年 3 月英伟达的黄仁勋在 GTC 大会上点名向量数据库开始，到 2023 年 4 月一系列向量数据库的巨额融资都可以感受出来。
RAG入门级概要
F957614265的博客
06-10 996
RAG相关原理、基础知识、入门级RAG
langchain rag
04-13
LangChain是一种基于区块链技术的语言学习平台，旨在为学习者提供全球范围内的语言学习资源和交流机会。它通过智能合约和去中心化的方式连接学习者和教师，使得学习者可以通过在线课程、语言伙伴和社区互动等方式来提高语言能力。 Rag（Relevance-Aware Generator）是一种基于GPT模型的生成式对话系统。它是OpenAI开发的一种人工智能模型，可以根据用户的输入生成相关的回答。Rag模型结合了检索式对话系统和生成式对话系统的优点，可以根据上下文和问题的相关性生成更加准确和有逻辑的回答。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值