#RAG#llm时代-RAG各模块痛点总结及解决办法，强化rag认知

已于 2024-04-17 10:38:33 修改
阅读量748 收藏 13
点赞数 14
分类专栏： RAG NLP AIGC 文章标签： NLP RAG LLM AIGC VDB
于 2024-01-31 17:56:35 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45312236/article/details/135959033
版权
AIGC 同时被 3 个专栏收录
22 篇文章 0 订阅
订阅专栏
RAG
21 篇文章 0 订阅
订阅专栏
NLP
13 篇文章 0 订阅
订阅专栏

RAG（Retrieval-Augmented Generation）技术是一种结合了检索和生成的方法，能够在生成文本的过程中利用外部知识库或语境来提高生成文本的质量和准确性。在当前的LLM（Large Language Model）时代，RAG技术显得尤为重要，其结合了检索和生成两种文本处理方式的优势，能够有效地解决一系列文本处理任务中的挑战。

RAG技术介绍

RAG技术介绍
RAG技术的核心思想是在生成文本时，利用外部的知识库或语境来指导文本的生成过程。通常情况下，RAG模型由两部分组成：检索器和生成器。检索器负责从外部知识库中检索相关信息或语境，而生成器则根据检索到的信息来生成文本。这种结合了检索和生成的方式能够有效地提高生成文本的质量和多样性。

RAG对于LLM的重要性

在当前的LLM时代，模型的规模越来越大，其可以生成的文本内容也越来越丰富。然而，即使是规模庞大的LLM，也难以涵盖所有可能的文本内容和语境。而RAG技术恰恰弥补了这一不足，通过引入外部知识库或语境，使得模型可以生成更加准确和丰富的文本内容。

具体来说，RAG技术在LLM时代的重要性体现在以下几个方面：

文本生成的多样性：通过引入外部知识库或语境，RAG技术可以帮助LLM生成更加多样化的文本内容，从而提高文本生成的灵活性和适用性。

文本质量的提升：外部知识库中的信息可以为文本生成提供更加准确和丰富的语境，从而提高生成文本的质量和准确性。

信息检索与生成的结合：RAG技术将信息检索与文本生成有机地结合在一起，充分利用了两种不同方式处理文本的优势，从而提高了文本处理任务的效率和效果。

RAG入门

RAG实操一篇入门

精通RAG

在使用RAG（Retrieval-Augmented Generation）技术的过程中，我们可能会面临一些痛点，但是这些问题都可以通过一些方法来解决。下面是对RAG痛点的总结以及相应的解决办法：

文本获取

pdf-langchain

langchain支持的9种PDF内容提取方式

Langchain RAG：打造Markdown文件的结构化分割解决方案

pdf2word

精准换行问题
有时候在将PDF文档转换为Word格式时，可能会遇到精准换行的问题，导致文本排版混乱。解决这个问题的方法可以是选择更高质量的PDF转换工具，或者使用特定的格式化工具来处理转换后的文本。

表格提取（待更新）
在处理包含表格的PDF文档时，需要一种有效的方法来提取表格数据。目前，针对表格提取的方法还在不断更新中，可以关注相关的技术进展并选择适合的解决方案。

图片提取（待更新）
对于包含图片的PDF文档，需要将图片提取出来并进行处理。这可以通过使用专门的图像处理工具或者PDF转换工具中的图片提取功能来实现。

pdf2html

PDF转HTML代码

文本切割文本转向量

文本切割
在将文本转换为向量表示之前，需要对文本进行切割和预处理。可以尝试多种文本切割方法，并结合适当的文本预处理技术来提高文本切割的准确性和效率。

文本转向量
选择合适的文本表示方法对于后续的处理非常重要。传统的词嵌入算法如Word2Vec、GloVe和FastText都是不错的选择，但也可以尝试使用更先进的模型，如OpenAI的embedding模型，以获得更好的性能。

在这里插入图片描述

大规模文本嵌入基准 (MTEB) 排行榜
embedding模型不断更新，可以查看MTEB排行榜去找适合自己的好用的embedding模型

多种文本切割+转向量方法 向量数据库知识问答前期操作：文档切割/文档向量/chatgpt + langchain| NLTK | BERT | text2vect |，其他的embedding模型使用方法也类似，只要在model.encode()的时候替换具体的加载好的embedding模型就可以了。

文档切分流程总结
传统词嵌入算法比较词嵌入算法比较 Word2Vec GloVe FastText 目前还是openai的embedding模型好用

文本摘要关键词提取

一篇搞定文本摘要\关键字提取，包含SnowNLP|TextRank4ZH|大模型|TF-IDF
LangChain LCEL_使用pipe链接runnables，获取LLM 推理结果
文本摘要
对于长文本，提取关键信息以生成文本摘要是很有必要的。可以尝试使用各种文本摘要算法，如TextRank4ZH、SnowNLP等，或者使用大型预训练语言模型来生成更加准确和连贯的摘要内容。

关键词提取
除了生成摘要外，提取关键词也是很重要的。TF-IDF、TextRank等算法都可以用于关键词提取，选择合适的算法可以根据具体需求和文本特点来确定。

存入矢量数据库

矢量数据库选择
选择合适的矢量数据库对于存储和检索文本向量表示至关重要。在选择矢量数据库时，需要考虑数据规模、检索效率、支持的查询功能等因素，可以参考相关技术介绍并根据实际情况进行选型。

VDB选择 【一篇入门VDB】矢量数据库-从技术介绍到选型方向
向量检索工具FAISS的搭建和使用教程、经验分享
milvus 基本操作

通过有效解决以上问题，可以更好地应用RAG技术，并充分发挥其在文本生成和检索中的优势。

向日葵花籽儿
关注
  • 14
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
使用 RAG 和 LLM 与您的数据库对话
iCloudEnd的博客
10-13 477
检索增强生成 (RAG) 涉及从外部数据库获取当前或上下文相关信息，并在请求大型语言模型 (LLM) 生成响应时将其呈现给大型语言模型 (LLM) 的过程。这种方法有效地解决了生成不正确或误导性信息的问题。您能够存储专有业务数据或全局知识，并使您的应用程序能够在响应生成阶段为 LLM 检索此数据。
LLM-RAG-WEB 大模型本地知识库召回
03-01
https://github.com/lonngxiang/LLM-RAG-WEB
#AIGC##LLM##RAG# RAG：专补LLMs短板_减少LLM幻觉并多模态/RAG 技术最新进展
weixin_45312236的博客
01-15 1603
通过检索与生成目标相关的信息，来增强生成模型性能的技术。弥补LLMs“黑盒”导致的幻觉、信息来源单一、信息缺乏是时效性、模态单一、内容不透明不可追溯等短板。以便有效地控制成本并确保数据隐私的保护。
RAG（检索增强生成）中的挑战与问题
LuLaaa_的博客
01-22 471
在RAG中，LLM（Large Language Model）是指一个大规模的预训练语言模型，它的作用是根据用户的问题和检索到的文档，生成最合适的答案，这一过程又称为数据整合。LLM的幻觉的原因有很多，例如LLM的预训练数据可能存在一些错误或偏见，LLM的生成过程可能存在一些随机性或不确定性，LLM的输出可能受到一些外部因素的影响等。因此，LLM的准确率也是不可靠的。数据向量化的目的是将文本数据映射到一个低维的向量空间中，使得语义相似的文本在向量空间中的距离较近，而语义不相似的文本在向量空间中的距离较远。
网易大模型 RAG 问答知识库开源，Star 超 6K！！
2301_78285120的博客
04-05 1667
节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。今天我分享一个开源项目QAnything，它是由网易开源自研的 RAG 引擎。该引擎允许用户上传 PDF、图片、Word、Excel、PowerPoint 等多种格式的文档，并实现类似于 ChatGPT 的互动问答功能，其中每个答案都能精确追溯到相应的文档段落来源。
RAG(检索增强生成)在LLM(大型语言模型)中的应用
fudaihb的博客
01-24 2033
在当今信息时代，大型语言模型（LLM）的崛起标志着自然语言处理领域的一次重大进步。这些模型不仅是深度学习的杰出代表，而且在多个领域中取得了显著的成功。本文将聚焦于检索增强生成（RAG）技术在大型语言模型中的应用，深入探讨其原理、应用以及与传统生成模型的差异
LLM+RAG: 关于知识问答优化的思考总结
机器学习社区
02-29 1259
本文分享实践中对LLM+RAG实现知识问答系统的相关调研和思考。LLM的知识库问答有3种实现路径：RAG 或 微调，或两者结合。低成本易部署，适用于知识会更新的场景，但知识内容多的情况下，检索成本会变高。算力成本高，微调效果不稳定，训练不好容易出现幻觉，不适用于知识频繁更新场景，但调好后，LLM回复速度很可观。在实践RAG+Langchain开源知识问答项目时，我发现有以下难点：(1) 对文本切片基本采用的是：固定长度分割文本，且分割窗口之间留一定重叠内容，以避免损失上下文语义信息。
LLM RAG 多种方式装载LLM的实践
weixin_43990004的博客
01-22 826
基于行业SOP、行业标准、互联网实时信息等领域外部知识构建私域知识向量模型，设计RAG系统用于多文档、多源数据、多维数据的检索器，设计优化双编码、联合编码等方法的信息生成器，使得生成组件能够更深入地理解问题背后的上下文，并产生更加信息丰富的回答。结果分析：对于文档内存在的表格，目前简单的检索链和问答链无法给出精准的回答，分析原因应该是表格数据的检索还是需要使用CSV文件的嵌入以及CSV-chain才能获取精准的答案。将某企业的数据治理方向的一些文档做成私有知识库，基于私有知识库回答数据治理方面的问题。
LLM应用架构之检索增强（RAG，retrieval-augmented generation）的缘起与架构介绍
人工智能曾小健
09-21 5280
原创 ullyAI工程化收录于合集#领域技术13个#LLM应用架构3个动手点关注本文是LLM应用架构系列的第一篇，将介绍LLM应用开发里最常见的一种架构模式RAG（ Retrieval Augmented Generation），它被广泛应用于知识问答，智能助手等常见LLM应用场景中。在后续文章中还将介绍该模式落地实际过程中的一些常见问题及改进思路，欢迎关注“AI工程化”，持续为大家更新。
RAG部署-使用TensorRT-LLM在Windows上部署检索增强生成聊天机器人RAG-优质大模型部署项目实战.zip
04-09
RAG部署_使用TensorRT-LLM在Windows上部署检索增强生成聊天机器人RAG_优质大模型部署项目实战
RAG部署-使用TensorRT-LLM在Windows上部署检索增强生成聊天机器人RAG源码+项目说明.zip
最新发布
06-08
Chat with RTX是一款演示应用程序，可以让您个性化连接到您自己的内容（文档、笔记、视频或其他数据）的GPT大型语言模型（LLM）。利用检索增强生成（RAG）、TensorRTLLM和RTX加速，您可以查询自定义聊天机器人，以...
【4月组队学习-llm-universe笔记】 0基础小白 RAG应用开发实践笔记
05-22
附LangChain自定义Embedding封装讲解
LLM之RAG理论（二）| RAG综述论文详解
wshzd的博客
12-24 2387
论文地址：https://arxiv.org/pdf/2312.10997.pdf 大型语言模型（LLMs）展示了强大的能力，但在实际应用中仍面临挑战，如幻觉现象、知识更新缓慢，以及在回答中缺乏透明度。检索增强生成（RAG）指的是在使用LLMs回答问题之前，从外部知识库中检索相关信息。RAG已被证明能显著提高答案的准确性，减少模型的幻觉现象，特别是对于知识密集型任务。通过引用来源，用户可以验证答案的准确性，并增加对模型输出的信任。它还促进了知识更新和特定领域知识的引入。RAG有效地结合
12个RAG痛点和建议解决方案
myboyliu2007的专栏
02-04 1711
Neutrino 目前支持。此外，您可以微调自定义的重新排序器，以获得更好的检索性能，详细的实现已在《通过与LlamaIndex微调Cohere Reranker来改善检索性能》中记录。准确解释用户查询以检索相关的结构化数据可能会很困难，特别是对于复杂或含糊不清的查询、不灵活的文本到SQL转换以及当前LLMs在有效处理这些任务方面的限制。在使用 LLMs 时，您可能会想知道，如果您的模型遇到问题，比如与OpenAI的模型发生速率限制错误，您需要一个备用模型作为主要模型发生故障的替代方案。
LLM之RAG实战（十六）| 使用Llama-2、PgVector和LlamaIndex构建LLM Rag Pipeline
wshzd的博客
01-16 1609
它是为处理高维矢量数据而定制的，就像Llama-2等语言模型生成的数据一样。在这个片段中，我们从llama-2包中导入LlamaModel，并使用特定的模型变体（例如“llama2-large”）对其进行初始化，该模型将用于文本生成和矢量化。Hugging Face的transformer库是使用Llama-2等模型的基石，它为自然语言处理任务提供了对预先训练的模型和实用程序的轻松访问。RAG Pipeline的核心是一个函数，它接受用户查询，从数据库中检索相关上下文，并基于查询和检索到的上下文生成响应。
技术动态 | 知识图谱遇上RAG行业问答:回顾知识检索增强范式、挑战及与知识图谱的结合...
开放知识图谱
01-12 1014
转载公众号| 老刘说NLP今天我们来看看AIDD2023(https://aidd.vip/dhrc-sz2023)中有关知识图谱与行业问答上的一些有趣的分享，供大家一起参考。一、知识检索增强范式、拷问、评估与选型同济大学王昊奋老师的《知识增强大模型:垂域落地的最后一公里》报告中，很有启发性地介绍了知识增强大模型的一些思考，特别棒，择其中几个有趣的点，分享给大家。1、RAG vs Fine-t...
LLM之RAG理论（六）| 高级RAG指南和技巧
wshzd的博客
01-22 950
在基本的RAG场景中，大致有如下步骤：首先将文本划分为多个块，使用Transformer Encoder模型将这些块嵌入到向量中，将这些向量存储到向量数据库并建立索引，查询会检索向量数据库中相关的上下文，这些上下文和查询一起生成最终的LLM提示，并引导LLM合成响应。基本RAG需要从外部知识数据库中获取文档，然后，将这些文档与用户的查询一起被传输到LLM，用于生成响应。最基本、最简单的RAG系统有时候会检索不到相关的上下文，因此需要一些更高级的方法来增强RAG系统，比如：查询转换、重排序等。
动手学RAG：汽车知识问答
张伟的专栏
01-29 1653
在自然语言处理领域，大型语言模型（LLM）如GPT-3、BERT等已经取得了显著的进展，它们能够生成连贯、自然的文本，回答问题，并执行其他复杂的语言任务。然而，这些模型存在一些固有的局限性，如“模型幻觉问题”、“时效性问题”和“数据安全问题”。为了克服这些限制，检索增强生成（RAG）技术应运而生。RAG技术结合了大型语言模型的强大生成能力和检索系统的精确性。它允许模型在生成文本时，从外部知识库中检索相关信息，从而提高生成内容的准确性、相关性和时效性。
RAG - 使用 langchain
02-28
RAG（Retrieval-Augmented Generation）是一种基于检索的生成模型，它结合了检索和生成两种方法，用于生成有关特定主题的文本。RAG模型使用了一个预训练的语言模型（如GPT）和一个检索模型（如DPR），通过在生成过程中引入检索结果来提高生成文本的质量和相关性。 langchain是一个开源项目，它提供了一个用于构建RAG模型的框架。它使用了Hugging Face的transformers库和DPR库，使得构建和训练RAG模型变得更加简单和高效。 使用langchain构建RAG模型的一般步骤如下： 1. 准备数据集：收集相关的文本数据集，并将其转换为适合训练RAG模型的格式。 2. 预训练语言模型：使用transformers库中的预训练语言模型（如GPT）对文本数据进行预训练。 3. 训练检索模型：使用DPR库中的检索模型对文本数据进行训练，以便在生成过程中能够有效地检索相关文本。 4. 构建RAG模型：使用langchain框架将预训练的语言模型和训练好的检索模型组合起来，构建RAG模型。 5. 微调RAG模型：使用特定任务的数据集对RAG模型进行微调，以提高生成文本的质量和相关性。 6. 应用RAG模型：将微调后的RAG模型应用于特定的应用场景，如问答系统、文本摘要等。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值