【NLP】LLM 和 RAG

最新推荐文章于 2024-08-20 21:25:42 发布
最新推荐文章于 2024-08-20 21:25:42 发布
阅读量2k 收藏 16
点赞数 25
分类专栏： 自然语言处理（NLP） LLMs(大型语言模型) 文章标签： 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sikh_0529/article/details/137274273
版权

在这里，我描述了我在过去几年中关于 RAG 系统如何发展的主要经验。分享 Naive RAG、Advanced RAG 和 Modular RAG 框架之间的区别。总结了高云帆等人发表的一篇出色的RAG 技术调查论文的关键见解。 

 什么是 RAG 框架？

OpenAI

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Sonhhxg_柒
关注
专栏目录
订阅专栏
LLM应用架构之检索增强（RAG，retrieval-augmented generation）的缘起与架构介绍
人工智能曾小健
09-21 5734
原创 ullyAI工程化收录于合集#领域技术13个#LLM应用架构3个动手点关注本文是LLM应用架构系列的第一篇，将介绍LLM应用开发里最常见的一种架构模式RAG（ Retrieval Augmented Generation），它被广泛应用于知识问答，智能助手等常见LLM应用场景中。在后续文章中还将介绍该模式落地实际过程中的一些常见问题及改进思路，欢迎关注“AI工程化”，持续为大家更新。
面向LLM的RAG技术：综述
安静的软件工程师
01-22 1849
面向LLM的RAG技术：综述
*AI大模型热潮下的冷静思考：谁在守护模型安全？
2401_84495725的博客
07-09 916
AI大模型的兴起，无疑为我们开启了一个充满无限可能的新时代。然而，在这个时代里，我们不仅要追求技术的卓越与创新，更要时刻铭记安全与伦理的底线。只有这样，我们才能真正让AI技术为人类社会的发展贡献力量，而不是成为潜在的威胁。因此，让我们在享受技术盛宴的同时，也保持一份清醒与冷静，共同守护AI大模型的安全与未来。
一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操
youmaob的博客
08-20 1150
RAG（Retrieval Augmented Generation, 检索增强生成）是一种技术框架，其核心在于当 LLM 面对解答问题或创作文本任务时，首先会在大规模文档库中搜索并筛选出与任务紧密相关的素材，继而依据这些素材精准指导后续的回答生成或文本构造过程，旨在通过此种方式提升模型输出的准确性和可靠性。RAG 技术架构图介绍：富文本 主要存储于 txt 文件中，因为排版比较整洁，所以获取方式比较简单实战技巧：【版面分析——富文本txt读取】
一文带你速通RAG、知识库和LLM！
youmaob的博客
05-28 1633
定制知识库是指一系列紧密关联且始终保持更新的知识集合，它构成了 RAG 的核心基础。这个知识库可以表现为一个结构化的数据库形态（比如：MySQL），也可以表现为一套非结构化的文档体系（比如：文件、图图片、音频、视频等），甚至可能是两者兼具的综合形式。
LLM RAG系列，一文详解RAG，看完这篇你必会（文末福利）
DEVELOPERAA的博客
06-17 3359
本文介绍了RAG以及RAG pipeline的整个流程，包括请求转换、路由和请求构造、索引和检索、生成和评估等，其中引用了大量有价值的论文。
应用篇| 深入浅出LLM应用之RAG
2401_85379281的博客
06-18 997
虽然RAG能够快速解决LLM幻觉、新鲜度、以及数据安全性问题，但是RAG也有它的局限性，比如（1） 向量数据库是一个尚未成熟的技术，缺乏处理大量数据规模的通用方案，因此数据量较大时,速度和性能存在挑战。（2）在推理时需要对用户输入进行预处理和向量化等操作，增加了推理的时间和计算成本。（3）外部知识库的更新和同步，需要投入大量的人力、物力和时间。（4） 需要额外的检索组件，增加了架构的复杂度和维护成本。
一文读懂：LLM大模型RAG
AAI666666的博客
07-09 2212
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。
深入LLM与RAG 原理、实现与应用
09-20
一、LLM基本概念 大模型LLM（Large Language Model）是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个...总的来说，LLM在自然语言处理和人工智能领域
深入LLM与RAG 原理、实现与应用教程
最新发布
09-20
多样性任务适应：经过适当的微调（fine-tuning），LLM可以适用于各种自然语言处理任务，如文本分类、问答系统、文本生成等。 强大的语言理解能力：LLM模型通常具有较好的语言理解能力，能够进行复杂的推理和分析。 ...
大模型LLM，RAG实战.zip
03-14
标题中的“大模型LLM，RAG实战”指的是在自然语言处理领域中，大型语言模型（Large Language Models, LLM）的应用，特别是Relevance-Aware Generation（RAG）模型的实际操作。RAG是一种结合了检索式和生成式模型优势...
LLM与RAG的初识-1
m0_53374676的博客
02-23 1258
检索增强生成（Retrieval-Augmented Generation, RAG）是一种结合了信息检索和文本生成技术的自然语言处理（NLP）方法。这种方法利用大型语言模型（LLM）的生成能力，并结合了检索系统从大量数据中检索相关信息的能力。RAG的目标是生成既准确又具有信息量的文本，同时确保生成的文本与给定的查询或任务紧密相关。通过检索与输入查询最相关的信息片段，然后使用这些片段来指导、优化和丰富生成过程，RAG提高了生成文本的准确性和相关性。
一文搞懂大模型！基础知识、 LLM 应用、 RAG 、 Agent 与未来发展
2401_85375298的博客
08-19 449
这么一说，把LLM叫做自然语言处理工具可能没有那么准确，LLM 更多的是理解和生成文本。不过，从你的回答上，我在思考一个很重要的问题：对于 LLM 来说，生成具有语义和语法正确性的文本是不是还不太够，生成的文本和问题如何对应上的？比如有下面的问答：问题：2022年 NBA 总冠军是谁？回答：“我认为这个意大利面,就应该拌42号混凝土,因为这个螺丝钉的长度很容易影响到挖掘机的扭矩”单纯从语义和语法正确性貌似没有很大的问题，但是确并没有回答我的问题。
一文读懂RAG和LLM微调，教你结合业务场景落地LLM应用
python1234_的博客
07-13 1733
1. 需要外部知识吗？对于以前摘要的风格进行摘要的任务，主要数据源将是以前的摘要本身。如果这些摘要包含在静态数据集中，就不太需要持续外部数据检索。但是，如果有一个频繁更新的摘要动态数据库，目标是不断与最新条目对齐的话，RAG可能在这个场景更好发挥作用。\2. 需要模型适配吗？这个用例的核心是适应专业领域或特定的写作风格。微调特别擅长捕捉风格细微差异、语调变化和特定领域的词汇，因此对于这个维度来说，微调也是是一个必要的选择。\3. 必须是最小化幻觉吗？在大多数LLM应用中，都会存在响应幻觉的问题。
2024-06-19 问AI: 在LLM中，RAG是什么？
baidu_24377669的博客
06-19 1071
例如，在处理一个需要根据已知事实推导新结论的问题时，RAG 可以帮助模型识别和利用相关的事实和关系，从而提高推理的准确性。简而言之，RAG 是搜索+LLM 提示的结合，即在有搜索算法找到的信息作为上下文的情况下，让模型回答提出的查询。综上所述，RAG是一种创新策略，通过融合检索与生成技术，增强了LLM处理任务的能力，提高了生成内容的相关性和准确性，同时保持了生成模型的灵活性和创造性。总之，RAG是一种重要的技术，通过检索增强生成的方式，显著提升了LLMs在实际应用中的性能和准确性。
茴香豆：搭建你的RAG智能助理
weixin_45924641的博客
04-15 698
使用茴香豆搭建 RAG 助手
LLM:检索增强生成(RAG)
读万卷书 行万里路
04-03 1374
其基本思想是利用信息检索的技术，从大规模语料库(存储在向量数据库)中检索出与当前任务相关的文本片段，并将这些文本片段作为输入提供给生成模型，以引导生成模型产生更准确、更相关的文本输出。通过预训练的方式，GPT模型能够学习得到通用的文本表示，从而在各种自然语言处理任务中表现出色，包括文本生成、文本分类、问答等。简单地说，嵌入(Embedding)思想可以视为一种尝试通过用向量来表示所有东西的“本质”的方法，其特性是“相近的事物”由相近的数表示。参数调整输出的文本向量的维度。
RAG(检索增强生成)在LLM(大型语言模型)中的应用
fudaihb的博客
01-24 2529
在当今信息时代，大型语言模型（LLM）的崛起标志着自然语言处理领域的一次重大进步。这些模型不仅是深度学习的杰出代表，而且在多个领域中取得了显著的成功。本文将聚焦于检索增强生成（RAG）技术在大型语言模型中的应用，深入探讨其原理、应用以及与传统生成模型的差异
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Sonhhxg_柒

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值