大模型进阶应用——检索增强生成

最新推荐文章于 2025-05-01 09:30:13 发布
最新推荐文章于 2025-05-01 09:30:13 发布
阅读量1.3k 收藏 27
点赞数 17
分类专栏： 人工智能 文章标签： 机器学习 AIGC 大模型应用
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/neweastsun/article/details/135899169
版权

RAG（ Retrieval Augmented Generation），是一种将预训练大型语言模型功能与外部数据源相结合的技术。这种方法结合了LLM(如GPT-3或GPT-4)的生成能力和业务数据搜索机制，从而提供更准确、更符合业务要求的系统响应。本文概要探讨检索增强生成，给出详细步骤说明，以帮助您更好了解LLM实践应用。

RAG核心流程

关于LLM的优缺点请参考上篇博文，这里直接进入主题。了解RAG基本原理后，下面详细介绍搭建这个框架的步骤。
在这里插入图片描述

1. 数据收集

首先收集所有实际应用的业务数据。通常包括产品手册、开发文档、业务流程规范、FAQ(常见问题)等。

2. 数据分块

数据分块是将数据分解成更小、更易于管理的片段。例如一份长达100页的用户手册，您可以将其分成不同的部分，每个部分可能回答不同的用户问题。

这样每个数据块都集中在一个特定的主题上。当从源数据集中检索到一条信息时，它更有可能直接适用于用户的查询，因为我们避免了包括来自整个文档的不相关信息。同时也提高了效率，因为系统可以快速获取最相关的信息，而不是处理整个文档。

3. 嵌入向量模型

现在源数据已经被分解成更小的片段，需要将其转换为向量表示。这涉及需要选择相应模型将文本数据转换为嵌入向量，嵌入向量是捕获文本背后语义的数字表示。简而言之，文档嵌入向量允许系统理解用户查询

最低0.47元/天 解锁文章
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
丨汀、的博客
11-01 4190
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
大模型——RAG进阶 Embedding Models嵌入式模型原理和选择
04-24 425
主要用于训练和评估模型：根据一段文章回答相关的问题。**BGE-M3：**北京智源研究院开发，支持多语言、混合检索（稠密+稀疏向量），处理 8K 上下文，适合企业级知识库。**NV-Embed-v2：**基于 Mistral-7B，检索精度高（MTEB 得分 62.65），但需较高计算资源。**训练方法：**对比学习（如 Word2Vec 的 Skip-gram/CBOW）、预训练+微调（如 BERT）。**上下文依赖：**现代模型（如 BGE-M3）动态调整向量，捕捉多义词在不同语境中的含义。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
检索增强生成
qzhqbb的博客
11-10 1003
20分钟讲明白检索增强（内附基于LangChain搭建简单RAG系统简单教程）
【智泊AI】一文讲清RAG：检索、增强、生成
javatiange的博客
03-27 715
当LLM进行文本创作时，可实时调用检索系统获取外部知识库中的最新数据，将经过验证的事实信息与模型本身的语义理解能力相结合，从而生成内容可信度更高、信息更新鲜且更贴合用户场景的优质文本。在"检索-增强-生成"的三元架构中，知识库的检索结果（问答对）实质上是作为增强要素注入到初始提示模板中，经过语义增强的提示信息（prompt）才是大语言模型进行答案生成的基础原料。2.增强：RAG框架的增强机制是指将检索子系统获取的相关文档作为先验知识注入生成模型的解码端，以此突破大模型参数化知识的局限性。
太强了！最全的大模型检索增强生成（RAG）技术概览！
机器学习社区
03-10 7623
如果你已经熟悉检索增强生成（Retrieval Augmented Generation, RAG）的概念，请直接跳转到高级 RAG 部分。检索增强生成（Retrieval Augmented Generation, RAG）是一种技术，它通过从数据源中检索信息来辅助大语言模型（Large Language Model, LLM）生成答案。
5分搞懂大模型 - RAG（检索、增强、生成）
2401_85327249的博客
09-01 5184
RAG（Retrieval-Augmented Generation，检索增强生成） 是一种结合了信息检索技术与语言生成模型的人工智能技术。该技术通过从外部知识库中检索相关信息，并将其作为提示（Prompt）输入给大型语言模型（LLMs），以增强模型处理知识密集型任务的能力，如问答、文本摘要、内容生成等。RAG模型由Facebook AI Research（FAIR）团队于2020年首次提出，并迅速成为大模型应用中的热门方案。
Elasticsearch：检索增强生成 (Retrieval Augmented Generation -RAG)
Elastic 中国社区官方博客
11-14 883
什么是检索增强生成 (RAG) 以及该技术如何通过提供相关源知识作为上下文来帮助提高 LLMs 生成的响应的质量。生成式人工智能最近取得了巨大的成功和令人兴奋的成果，其模型可以生成流畅的文本、逼真的图像，甚至视频。就语言而言，经过大量数据训练的大型语言模型能够理解上下文并对问题生成相关响应。
大模型系列——RAG进阶Embedding Models嵌入式模型原理和选择
最新发布
2401_84052244的博客
05-01 146
主要用于训练和评估模型：根据一段文章回答相关的问题。**BGE-M3：**北京智源研究院开发，支持多语言、混合检索（稠密+稀疏向量），处理 8K 上下文，适合企业级知识库。**NV-Embed-v2：**基于 Mistral-7B，检索精度高（MTEB 得分 62.65），但需较高计算资源。**训练方法：**对比学习（如 Word2Vec 的 Skip-gram/CBOW）、预训练+微调（如 BERT）。**上下文依赖：**现代模型（如 BGE-M3）动态调整向量，捕捉多义词在不同语境中的含义。
我的世界1.20.1forge模组开发进阶教程——Geckolib动画实体（3）
qq_24992377的博客
03-15 1142
注意：本章涉及大量的geckolib底层代码，补充讲解了上一节没讲的，如果看不懂请去学习Java 这段代码是 GeckoLib 库中用于处理实体动画的核心接口 ，它为 Minecraft 实体（如生物、玩家等）提供了动画控制、数据同步和网络通信的能力。以下是对代码的逐层解析及其在 GeckoLib 中的作用分析：• 作用 通过 从实体中获取特定类型的动画数据。 • 实现逻辑 • 通过 获取实体动画缓存。 • 使用 获取实体唯一ID，定位动画管理器。 • 调用管理器中的 获取数据。 • 用途 用于客户
大模型系列：OpenAI使用技巧_使用图数据库应用检索增强生成RAG
数智笔记
12-31 1628
然而，提取的实体可能与我们拥有的数据不完全匹配，所以我们将使用GDS余弦相似性函数来返回与用户所询问的实体具有类似关系的产品。如果您的数据中数据点之间的关系很重要，并且您可能希望利用这一点，那么考虑使用图数据库而不是传统的关系数据库可能是值得的。考虑到增加的复杂性，请确保使用知识图谱是您用例的最佳选择。对于这个特定的用例，如果对话方面不太重要，我们实际上可以创建一个函数，该函数将调用我们之前定义的任务并提供一个答案。为此，我们将指示我们的模型在用户提示中找到相关的实体，这些实体可以用于查询我们的数据库。
【RAG检索增强生成】深入探索检索增强生成（RAG）技术
寻道AI，探索AI无限可能！
06-27 2531
在人工智能的不断演进中，大语言模型（LLMs）已成为解决复杂问题的关键工具。但它们在处理需要最新信息或专业知识的任务时，受限于静态知识库，影响了内容的准确性和时效性。为了克服这一局限，检索增强生成（RAG）技术应运而生，它通过整合实时数据和外部知识库，显著提高了AI响应的质量和信息的更新速度。
大模型+检索增强（RAG、Atlas 和 REPLUG）
热门推荐
ZhengrongYue的博客
09-19 1万+
大模型+检索增强/图谱增强（RAG、Atlas 和 REPLUG）
检索增强生成RAG
m0_63743577的博客
01-14 1368
RAG检索增强生成，重排序，召回模式
RAG（检索增强生成）技术
wdn blog
12-19 2651
检索增强 LLM ( Retrieval Augmented LLM )，给 LLM 提供外部数据库，对于用户问题 ( Query )，通过一些信息检索 ( Information Retrieval, IR ) 的技术，先从外部数据库中检索出和用户问题相关的信息，然后让 LLM 结合这些相关信息来生成结果
什么是检索增强生成？
加百力 的技术博客
12-31 2385
检索增强生成（Retrieval Augmented Generation，RAG）是指对大型语言模型（Large Language Model，LLM）输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。LLM 用海量数据进行训练，使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。在 LLM 本就强大的功能基础上，RAG 将其扩展为能访问特定领域或组织的内部知识库，所有这些都无需重新训练模型。
一文了解检索增强生成（RAG）
2401_85378759的博客
08-23 1066
（复制链接至浏览器打开，下同），论文的第一作者 Patrick Lewis 对 RAG 这个“不讨喜”的缩写词表示了歉意，如今，这个词被用来描述在数百篇论文和数十种商业服务中不断发展壮大的某种方法，而在他看来，这些都代表着生成式 AI 的未来。Lewis 回忆道，团队在早期方法的基础上，受谷歌研究人员一篇论文的启发，“产生了这一绝妙的想法——在一个经过训练的系统中嵌入检索索引，这样它就能学习并生成你想要的任何文本输出。他表示：“我们当时一直想取一个好听的名字，但到了写论文的时候，大家都想不出更好的了。
一文讲清楚检索增强生成（RAG）
脚踏实地，仰望星空
10-19 5183
检索增强生成（Retrieval Augmented Generation, RAG）
检索增强生成 (RAG)一分钟快速 入门指南
qkh1234567的博客
08-21 840
RAG 生成器负责将检索和排序后的的信息以及用户的原始查询作为输入，并生成最终的答案或输出。它使用生成模型，例如基于 transformer 的模型 (例如 GPT、BERT)，来生成文本，这些文本与上下文相关、连贯且信息丰富。生成器确保答案与用户的查询一致，并纳入从外部来源检索到的事实性知识。
deepseek等大模型培训ppt
03-16
### 关于 DeepSeek 大模型培训 PPT 资料下载 #### 已知资源概述 目前有关 DeepSeek 的大模型培训资料主要集中在学术机构发布的公开文档中。例如，厦门大学发布了两份与 DeepSeek 相关的重要报告：一份专注于政府...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值