LLM - 使用 RAG (检索增强生成) 多路召回 实现 精准知识问答 教程

已于 2024-10-25 16:20:59 修改
阅读量2.5k 收藏 24
点赞数 28
分类专栏： 大模型 (LLM) 文章标签： RAG 大语言模型 LangChain 精准知识问答 LLM 多路召回 FAISS
于 2024-09-29 10:39:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/caroline_wendy/article/details/142629289
版权

欢迎关注我的CSDN：https://spike.blog.csdn.net/
本文地址：https://spike.blog.csdn.net/article/details/142629289

免责声明：本文来源于个人知识与公开资料，仅用于学术交流，欢迎讨论，不支持转载。

RAG

RAG (Retrieval-Augmented Generation，检索增强生成) 的多路召回，包括向量召回和本文召回，可用于精准知识问答，减轻大模型的幻觉问题，即：

  1. 并行：同时使用文本召回和向量召回，合计获得 TopN 个样本，再使用重排序的方式，获得 TopK 个样本，作为最终的召回文本。
  2. 串行：优先使用文本召回，召回 TopN 个样本，再使用
了解本专栏 订阅专栏 解锁全文 超级会员免费看
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
丨汀、的博客
11-01 4102
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
RAG检索增强生成只是起步，真正的智能问答=强化学习+大模型（各类型）， 实现智能调度，SELF-RAG（自反思）。
丨汀、的博客
11-17 1265
RAG检索增强生成只是起步，真正的智能问答=强化学习+大模型（各类型）， 实现智能调度，SELF-RAG（自反思）。
25-Graph RAG 面 — 一种 基于知识图谱的大模型检索增强实现策略.pdf
12-31
大模型八股面试
RAG优化方法
niulinbiao的博客
02-12 310
是一种结合了检索和生成的自然语言处理（NLP）技术。它通过将生成模型与外部知识库（如文本数据集、数据库等）进行检索结合，来增强生成模型的能力，提供更准确、更相关的答案。具体来说，RAG检索（Retrieval）：模型首先从一个大的知识库中检索出与当前问题相关的文档或片段。这个步骤帮助模型找到具体信息，而不是完全依赖预训练的参数。生成（Generation）：在检索到相关信息后，生成模型会基于这些信息来生成更准确的回答。
RAG专栏：混合检索
最新发布
m0_37145844的博客
03-27 312
混合检索，又称融合检索 / 多路召回，是指在检索过程中同时采用多种检索方式，并将各类检索结果进行融合，从而得到最终的检索结果。混合检索的优势在于能够充分利用不同检索方式的优点，弥补各自的不足，从而提升检索的准确性和效率。
解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化
sdgfafg_25的博客
12-04 1792
几个月前我们就聊过RAG的经典方案。前几天刚看完openAI在DevDay闭门会议上介绍的RAG相关的经验，有些新的感悟，借此机会再梳理下RAG相关的优化方案。推荐直接看原视频（外网）：召回的内容要可以回答问题，并且内容丰富度，包括同一问题多个观点，多角度：召回内容和问题相关，总不能召回100篇里面只有2篇和问题有关：召回内容间的观点一致性较高更高要求：高时效性，权威性，观点完整性，内容重复度低这里不妨借鉴前人经验，参考。过去几个月RAG的论文也像是把传统搜索的方案，使用LLM轮番做了一遍范式更新。
RAG(检索增强生成)系统实践与调优
zhishi0000的博客
12-11 1122
检索增强生成（Retrieval Augmented Generation, RAG）是一种结合信息检索和生成式人工智能的技术，它通过从外部数据源中检索相关信息，来辅助大语言模型（Large Language Model, LLM）生成更为准确、上下文相关的答案。具体来说，RAG 的工作流程包括两个关键步骤：首先，系统会根据用户的查询从预先构建的数据源中检索相关的文档或片段；然后，将这些检索到的内容作为上下文信息，和用户的问题一起输入到大语言模型中，以生成更丰富、更具参考价值的回答。
AI比赛-推荐系统（一）-新闻推荐03：多路召回【用不同策略分别召回部分候选集，然后把候选集混在一起供后续排序模型使用】【①、YoutubeDNN双塔召回；②、基于物品召回；③、基于用户召回】【天池】
u013250861的博客
01-29 1059
所谓的“多路召回”策略，就是指采用不同的策略、特征或简单模型，分别召回一部分候选集，然后把候选集混合在一起供后续排序模型使用，可以明显的看出，“多路召回策略”是在“计算速度”和“召回率”之间进行权衡的结果。上图只是一个多路召回的例子，也就是说可以使用多种不同的策略来获取用户排序的候选商品集合，而具体使用哪些召回策略其实是与业务强相关的 ，针对不同的任务就会有对于该业务真实场景下需要考虑的召回规则。例如新闻推荐，召回规则可以是“热门新闻”、“作者召回”、“关键词召回”、“主题召回“、”协同过滤召回“等等。
RAG多路召回
pumpkin84514的博客
01-15 2339
是指在信息检索系统中，为了提升检索的全面性和准确性，通过多条不同的检索路径或不同的检索策略来获取信息的技术。多路召回的核心思想是，单一的检索路径可能会遗漏一些重要的信息或没有覆盖所有可能相关的内容，因此需要并行或串行地采用多种检索方法来提高最终的召回率和准确性。多路召回通过多个检索策略和模型的并行运行，能够提升信息检索的多样性和精准度。模型中，多路召回通常用于增强检索阶段的多样性和精准度。通过结合不同的召回策略，系统能够在多个来源或角度中获取信息，从而改善生成模型的输入质量和最终生成的答案。
Rag应用——多路召回检索
2203_75455572的博客
11-02 2281
这里用的是JupyterLab工具，原因是需要GPU加载模型运行可以去云服务器。
TensorFlow相关组件的安装
AAI666666的博客
01-11 2530
TensorFlow相关组件的安装
RAG多路召回率的提高
weixin_39060924的博客
06-19 1071
百度智能千帆：在检索问答时通过知识点来索引到对应的切片，大模型根据切片内容生成答案，开启知识增强会调用大模型抽取更加丰富的知识点，增加切片的召回率。DIFY的做法：同时执行全文检索和向量检索，并应用重排序步骤，从两类查询结果中选择匹配用户问题的最佳结果，需配置 Rerank 模型 API。RAGFlow的做法：加权求和，缺点较为明显（当其中一种检索方式给出的完全不准确时，会影响到整体的结果）Kimi的做法：增强模型输入的上下文大小，以减少对文档切片的次数。这样会降低匹配中目标切片的难度。
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
丨汀、的博客
01-09 4415
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
知识图谱问答召回机制-llm-graph-builder
猫舍
08-26 681
prompt中，实体和关系的形式，均是以实体名称、关系类型的形式召回并组合的，并未使用实体描述和关系描述。在获取到结构化的数据素材后，按照一定的格式和提示词，组装出问答的promt。模式下，依旧保持了RAG的思想，使用了向量作为语义召回的手段。以上就是 LGB 召回文档内容的过程。的模式下，如何进行知识的召回操作。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
热门推荐
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
LLM:检索增强生成(RAG)
读万卷书 行万里路
04-03 1616
其基本思想是利用信息检索的技术，从大规模语料库(存储在向量数据库)中检索出与当前任务相关的文本片段，并将这些文本片段作为输入提供给生成模型，以引导生成模型产生更准确、更相关的文本输出。通过预训练的方式，GPT模型能够学习得到通用的文本表示，从而在各种自然语言处理任务中表现出色，包括文本生成、文本分类、问答等。简单地说，嵌入(Embedding)思想可以视为一种尝试通过用向量来表示所有东西的“本质”的方法，其特性是“相近的事物”由相近的数表示。参数调整输出的文本向量的维度。
大模型（deepseek）之LLM+RAG构建本地化知识库应用（Ollama+Deepseek+RAGFlow）
qq_31400983的博客
10-07 8755
应用RAG（Retrieval Augmented Generation，检索增强生成）构建本地知识库，并与LLM（大模型）相结合，可有效解决LLM知识更新难问题，已成为专业领域智能问答的首选，下面就以Ollama+Deepseek+RAGFlow为例构建本地知识库应用。
万字长文总结检索增强 LLM
WitsMakeMen的专栏
09-15 1538
检索增强 LLM ( Retrieval Augmented LLM )，简单来说，就是给 LLM 提供外部数据库，对于用户问题 ( Query )，通过一些信息检索 ( Information Retrieval, IR ) 的技术，先从外部数据库中检索出和用户问题相关的信息，然后让 LLM 结合这些相关信息来生成结果。这种模式有时候也被称为 检索增强生成 ( Retrieval Augmented Generation, RAG )。下图是一个检索增强 LLM 的简单示意图。
一文读懂：LLM大模型RAG
AAI666666的博客
07-09 4024
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。
llamaindex多路召回
01-23
### Llama Index 多路召回功能的实现与使用 Llama Index 是一种用于处理大规模数据集的有效索引结构，在自然语言处理和其他机器学习应用中有广泛应用。对于多路召回功能，该特性允许系统并行查询多个索引来提高检索效率和准确性。 为了减少GPU内存峰值使用以及优化计算资源分配，可以采用类似于图2所示的方法来管理前向传播和反向传播过程中的梯度计算[^1]。具体到Llama Index 的多路召回机制，则意味着可以在不同路径之间交替执行这些操作以达到更好的性能表现。 以下是Python代码片段展示如何初始化和支持多路召回： ```python from llama_index import MultiRecallIndex # 创建一个多路召回索引实例 multi_recall = MultiRecallIndex() # 添加文档至各个子索引中 for i in range(number_of_subindices): subindex_docs = get_documents_for_subindex(i) multi_recall.add_to_subindex(subindex_docs, index=i) def perform_multi_recall(query_string): results = [] # 对每个子索引发起独立查询请求 for idx in range(multi_recall.num_indices()): result = multi_recall.search_in_subindex(query=query_string, index=idx) results.append(result) return aggregate_results(results) query_result = perform_multi_recall("example query string") print(query_result) ``` 此段代码展示了创建`MultiRecallIndex`对象并将文档分布存储于不同的子索引内；当接收到查询字符串时，会针对每一个单独建立好的子索引进行搜索，并最终汇总返回结果给用户。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ManonLegrand

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值