大模型检索增强生成RAG原理介绍

最新推荐文章于 2025-03-10 16:47:14 发布
最新推荐文章于 2025-03-10 16:47:14 发布
阅读量2.3k 收藏 33
点赞数 39
分类专栏： 大模型 # RAG 文章标签： 语言模型 python embedding 人工智能 AIGC
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35054222/article/details/137087487
版权
本文介绍了如何创建一个易于理解和修改的大模型RAG框架，重点讲解了RAG原理、为何使用RAG以解决大模型的问题，以及技术路线，包括知识库构建、向量化、知识检索和知识问答。通过实例说明，降低了学习RAG技术的门槛。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

大家好，我是程序锅。

github上的代码封装程度高，不利于小白学习入门。

常规的大模型RAG框架有langchain等，但是langchain等框架源码理解困难，debug源码上手难度大。

因此，我写了一个人人都能看懂、人人都能修改的大模型RAG框架代码。

整体项目结构如下图所示：

手把手教你大模型RAG框架架构

本篇文章将介绍2.RAG原理介绍，不需要编程，理解整体思路。

一、为什么要用RAG？

LLM会产生误导性的 “幻觉”，训练数据会过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。

正是在这样的背景下，检索增强生成技术（Retrieval-Augmented Generation,RAG）应时而生，成为大模型时代的一大趋势。

RAG通过在语言模型生成答案之前，先从广泛的专业文档数据库中检索相关信息，然后利用这些专业信息来引导大模型生成的结果，极大地提升了内容的准确性和相关性。

RAG有效地缓解了幻觉问题，提高了知识更新的速度（大模型+搜索引擎），并增强了内容生成的可追溯性，使得大型语言模型在实际应用中变得更加实用和可信。

二、RAG的技术路线

RAG整体技术路线可分为3大块8个小点见图1，其中包含知识库构建、知识检索和知识问答。其中核心在于

最低0.47元/天 解锁文章
【大模型】大模型RAG检索增强生成技术使用详解
congge
11-17 5944
大模型RAG检索增强生成技术使用详解
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
大模型RAG：原理、应用与未来趋势，一篇文章全了解！
最新发布
2401_84494441的博客
03-10 1278
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
一文讲清楚检索增强生成（RAG）
脚踏实地，仰望星空
10-19 5150
检索增强生成（Retrieval Augmented Generation, RAG）
RAG的原理是什么？
金木AI
05-10 1081
2、生成（Generation）：RAG也包含一个生成器，通常是一个预训练的语言模型，例如GPT（Generative Pre-trained Transformer）。生成器通常会在检索到的信息的基础上进行细化和扩展，以生成更准确、更丰富的文本。RAG（Retrieval-Augmented Generation）是一种深度学习模型，结合了检索和生成两种方法，用于生成自然语言文本。通过将检索和生成结合起来，RAG模型可以在生成文本时更好地利用外部知识和信息，从而产生更准确、更丰富的结果。
【RAG检索增强生成】深入探索检索增强生成（RAG）技术
寻道AI，探索AI无限可能！
06-27 2470
在人工智能的不断演进中，大语言模型（LLMs）已成为解决复杂问题的关键工具。但它们在处理需要最新信息或专业知识的任务时，受限于静态知识库，影响了内容的准确性和时效性。为了克服这一局限，检索增强生成（RAG）技术应运而生，它通过整合实时数据和外部知识库，显著提高了AI响应的质量和信息的更新速度。
检索增强生成架构详解【RAG】
新缸中之脑
11-25 1185
生成式AI技术很强大，但它们受到知识的限制。虽然像 ChatGPT 这样的LLM可以执行许多任务，但每个LLM的基线知识都存在基于其训练数据的差距。如果你要求LLM写一些关于最近趋势或事件的文章，LLM不会知道你在说什么，而且回答最好是混合的，坏的情况下往往还是有问题的。
不用苦苦寻觅！这是大模型检索增强生成（RAG）最全综述！
机器学习社区
02-03 1万+
是什么：RAG 是一种通过检索外部知识库来获得额外语料，并使用 ICL（In-Context-Learning，上下文学习）来改进 LLM 生成效果的范式。为什么：LLM 受训练语料的限制，无法感知最新的内容，比如 LLM 训练后的新闻；此外，LLM 也容易产生幻觉，生成不正确的内容。如何做：当用户发起一个生成请求时，首先基于用户的 prompt 来检索相关信息，然后这些信息会被组合到 prompt 中，为生成过程提供额外的上下文，最后将组合后的 prompt 输入 LLM 生成结果。
重磅推荐-2024最新大模型RAG（检索增强生成）最佳实践PPT合集（38份）.zip
12-09
精心整理，2024最新大模型RAG（检索增强生成）最佳实践...检索增强生成RAG的实践、挑战与发展 通义百炼RAG应用落地实践与挑战 AI 搜索 RAG 大模型优化实践 AI搜索RAG应用实践 OpenSearch RAG应用实践 ……等等38份。
基于BM25、BGE检索算法的检索增强生成RAG示例，支持OpenAI风格的大模型服务.zip
05-17
本示例着重介绍了如何利用BM25和BGE检索算法来提升RAG模型的性能，并且支持OpenAI风格的大模型服务。现在，我们将深入探讨这些概念和技术。 首先，BM25（Best Match 25）是一种经典的倒排索引检索算法，用于从大量...
人工智能-检索增强生成-基于BM25、BGE的检索增强生成RAG示例
11-19
在深入探讨基于BM25和BGE的检索增强生成RAG示例之前，我们首先需要了解RAG模型的基本概念，以及BM25和BGE这两种检索增强技术的原理和应用场景。RAG模型，即Retrieval-Augmented Generation模型，是一种结合了信息...
高级检索增强生成技术(RAG)全面指南：原理、分块、编码、索引、微调、Agent、展望
人工智能讲师分享前沿技术
04-27 6284
如果我们使用多个源来生成答案，要么是由于初始查询的复杂性（我们必须执行多个子查询，然后将检索到的上下文合并到一个答案中），要么是因为我们在各种文档中找到了单个查询的相关上下文，问题是我们是否能够准确地回溯我们的来源。显然，尽管OpenAI是LLM提供商的市场领导者，但仍有许多替代方案，例如Anthropic的Claude、最近流行的较小但功能强大的模型，例如Mixtral形式的Mistral、Microsoft的Phi-2以及许多开源选项，例如Llama2、OpenLLaMA、Falcon。
一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）
热门推荐
机器学习社区
12-30 2万+
RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。本文介绍了 RAG 的概念及其背后的一些理论，本文通过Python、LangChain将其实现，在此过程中使用了 OpenAI的ChatGPT接口（可以自己搭建chatGLM3）、Weaviate矢量数据库（可以自己搭建Milvus ）、OpenAI 嵌入模型实现了 RAG 管道。
一文读懂RAG（检索增强生成）
2401_85375298的博客
08-09 1772
近阶段，笔者落地了一个蛮深刻的项目，该项目通过RAG技术成功解决了一些问题。因此计划通过两篇文章跟大家分享有关RAG结合ToB Agent应用的探索与实践。本篇文章，主要关于笔者对RAG（围绕Navie RAG）的些许理解。
小学生也能听得懂的大模型 - Transformer 1
2401_85325557的博客
07-29 1266
参考 [小学生也能听得懂的大模型 Transformer 1]
一篇新出的大模型检索增强生成（RAG）综述
Python_cocola的博客
06-07 978
自定义的目的：根据用户的特定偏好或请求的上下文调整内容，包括适应目标受众的需求或呈现格式。技术和方法SURGE：通过应用图-文本对比学习，确保生成的对话响应与检索到的子图中包含的知识紧密对齐。FiD-light：引入了一种基于列表的自回归重新排名方法，使用源指针优化排名顺序，并在模型输出中结合文本引用作为相关信息源的指针。研究分析：对RAG研究进行了详细分析，包括使用的技术、数据源、是否涉及多跳检索、以及检索和生成阶段的具体方法。多跳与单跳检索：指出了在迭代搜索轮次中，多跳检索通常能够产生更优越的结果。
大模型系列——解读RAG
我相信......
02-04 3189
RAG 是2023年最流行的基于 LLM 的应用系统架构。有许多产品几乎完全建立在 RAG 之上，覆盖了结合网络搜索引擎和 LLM 的问答服务，到成千上万个数据聊天的应用程序。很多人将RAG和Agent 作为大模型应用的两种主流架构，但什么是RAG呢？RAG又涉及了哪些具体的技术呢？1. 什么是RAGRAG即检索增强生成，为 LLM 提供了从某些数据源检索到的信息，并基于此修正生成的答案。RAG ...
检索增强生成（RAG）技术：实现流程、作用及应用案例
qq_42533357的博客
03-24 6243
在自然语言处理（NLP）领域中，检索增强生成（Retrieval-Augmented Generation, RAG）技术巧妙地结合了信息检索与神经网络生成模型的力量，通过在生成过程中引入相关的外部信息，实现了在大规模知识库基础上的精准、多样且具有上下文关联性的文本生成。RAG技术的目的在于，其关键创新在于打破传统生成模型仅仅依赖自身参数预测输出的限制，转而。这一革新极大地提升了模型在问答、对话系统、文本摘要等多种任务上的表现。
一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操
2401_85375151的博客
07-29 2837
RAG（Retrieval Augmented Generation, 检索增强生成）是一种技术框架，其核心在于当 LLM 面对解答问题或创作文本任务时，首先会在大规模文档库中搜索并筛选出与任务紧密相关的素材，继而依据这些素材精准指导后续的回答生成或文本构造过程，旨在通过此种方式提升模型输出的准确性和可靠性。RAG 技术架构图介绍：富文本 主要存储于 txt 文件中，因为排版比较整洁，所以获取方式比较简单实战技巧：【版面分析——富文本txt读取】
rag 向量数据库有哪些
08-21
Rag（Retrieval-Augmented Generative）向量数据库是一种结合了信息检索技术和生成式模型的新一代知识存储系统。它将传统的基于关键词查询的信息检索方法与深度学习生成模型相结合，能够生成丰富的、上下文相关的响应来回答用户的问题。 这种类型的数据库通常包含两部分： 1. **检索模块**（Retrieval Component）：负责从大量的文本数据集中查找最相关的文档或片段，这部分可能是基于TF-IDF、倒排索引或其他相似度匹配技术构建的。 2. **生成模块**（Generation Component）：如预训练的语言模型，例如BERT、T5或通义千问这样的大型语言模型，当检索到相关信息后，会利用这些模型生成详尽的回答，增加了内容的多样性和解释性。 Rag向量数据库的优点包括能够提供更全面的答案、处理复杂的查询需求以及支持对话式的交互。然而，它们也依赖于高质量的数据集和强大的计算资源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值