大模型 RAG 优化 收集一

最新推荐文章于 2024-05-02 19:10:09 发布
最新推荐文章于 2024-05-02 19:10:09 发布
阅读量405 收藏 9
点赞数 8
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fan_fan_feng/article/details/135703171
版权

痛点1：文档切分粒度不好把控，既担心噪声太多又担心语义信息丢失

问题1：如何让LLM简要、准确回答细粒度知识？

问题2：如何让LLM回答出全面的粗粒度（跨段落）知识？

分析：文档分割不够准确，导致模型有可能只回答了两点，而实际上是因为向量相似度召回的结果是残缺的。有人可能会问，那完全可以把切割粒度大一点，比如每10个段落一分。但这样显然不是最优的，因为召回片段太大，噪声也就越多。LLM本来就有幻觉问题，回答得不会很精准

fan_fan_feng
关注
  • 8
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
基于langchain的RAG实战
02-19
基于langchain的RAG实战
大模型-大模型RAG应用基础认知视频
03-16
大模型系列基础认知之一：大模型RAG应用基础认知
用于大模型RAG的检索语料
03-14
用于大模型RAG的检索语料
LLM-RAG-WEB 大模型本地知识库召回
03-01
https://github.com/lonngxiang/LLM-RAG-WEB
大模型LLM，RAG实战.zip
03-14
垂直领域大模型，多模态，人工智能，易于部署，学习交流使用
JAVA版本的检索增强生成(RAG)大模型知识库项目.zip
03-09
JAVA版本的检索增强生成(RAG)大模型知识库项目.zipJAVA版本的检索增强生成(RAG)大模型知识库项目.zipJAVA版本的检索增强生成(RAG)大模型知识库项目.zipJAVA版本的检索增强生成(RAG)大模型知识库项目.zipJAVA版本的...
VGGNet 阅读理解 - Very Deep Convolutional Networks for Large-Scale Image Recognition
热门推荐
长风破浪会有时，直挂云帆济沧海
03-19 5万+
论文理解 - VGGNet - Very Deep Convolutional Networks for Large-Scale Image Recognition [VGG-Paper] [原文地址 - Very deep convolutional networks for large-scale image recognition] 一篇对 VGGNet 理解比较详细的博客，很长...
了解大模型 RAG （Retrieval-Augmented Generation）：大模型外挂知识库 （检索增强技术）
简简单单Onlinezuozuo
12-03 2756
了解大模型 RAG （Retrieval-Augmented Generation）：大模型外挂知识库 （检索增强技术）为了弥补通用的预训练大模型在某些专业领域的短板、或者特别强化大模型在某个细分场景下的能力，我们使用 RAG 外挂知识库来增强大模型的能力检索增强生成（RAG，Retrieval-Augmented Generation）是一种新型AI模型，集检索和生成于一体。
写的太通透了！大模型自省式 RAG 与 LangGraph 的实践！
2301_78285120的博客
02-12 1549
自省机制可以显著提升 RAG 的功能，允许改正检索和生成过程中的质量问题。几篇最新的 RAG 论文都着重讨论了这一主题，但要将这些理念实际应用起来有着不小的难度。本文展示了如何利用 LangGraph 进行“流程工程化”地实施自反式 RAG。我们还提供了实施两篇引人注目的论文 —— Self-RAG 和 CRAG 中的理念的详细指导。
大模型 RAG 问答技术架构及核心模块盘点：从 Embedding、prompt-embedding 到 Reranker
2301_78285120的博客
01-11 2825
交叉编码器将对查询和答案实时计算相关性分数，这比向量模型(即双编码器)更准确，但比向量模型更耗时。因此，它可以用来对嵌入模型返回的前k个文档重新排序。不同于向量模型需要输出向量，直接文本对输出相似度(因为交叉编码器在句子层面的任务上表现非常好，但它存在一个“致命”缺点：交交叉编码器不产生句子嵌入，这个嵌入没有绝对意义)，排序准确度更高，可用于对向量召回结果的重新排序，提升最终结果的相关性。
注意力机制略解
cqbzcsq的博客
04-29 1200
本文简要地介绍了注意力机制，Q、K、V矩阵的含义，注意力评分函数的计算方式，并提及了Transformer的相关内容
Transformers：它们如何转换您的数据？
gongdiwudu的专栏
05-01 848
在快速发展的人工智能和机器学习领域，一项创新因其对我们处理、理解和生成数据的方式产生深远影响而脱颖而出：Transformers。Transformer 彻底改变了自然语言处理 （NLP） 及其他领域，为当今一些最先进的 AI 应用程序提供动力。但究竟什么是变形金刚，它们如何以如此开创性的方式转换数据？本文揭开了 Transformer 模型内部工作的神秘面纱，重点介绍了编码器架构。我们将首先在 Python 中实现 Transformer 编码器，分解其主要组件。然后，我们将可视化 Transfor
su03t语音模块烧录识别不出问题解决方法
最新发布
weixin_49387645的博客
05-02 1235
su03t语音sdk烧录无法识别问题
macos如何安装Tesseract软件and常规应用及问题处理
LYX_WIN
04-28 462
Homebrew 在 macOS 13 上可能会遇到一些构建失败的情况，因为它是一个预发布版本，不是稳定版本，可能会有一些兼容性问题。3.安装 pytesseract 之后，您还需要安装 Tesseract OCR 的二进制文件。4.安装完成后，您可以使用 pytesseract 库在 Python 中调用 Tesseract OCR 进行文字识别。2.安装完成后，可以在终端或命令提示符中输入以下命令测试 Tesseract 是否安装成功。安装完成后，可以使用 Tesseract 进行文字识别等操作。
人机对抗升级：当ChatGPT遭遇死亡威胁，背后的伦理挑战是什么
qq_22717943的博客
04-30 1167
尽管OpenAI没有对媒体的询问立即回应，但在Fast Company的测试中，尽管DAN没有促进暴力或种族歧视，它的回答显示它愿意展示自己已经摆脱了OpenAI的限制。但是，通过创造DAN——一个可以响应通常被限制的问题的替身，用户发现了一种绕过这些限制的方法。随着时间的推移，DAN的版本不断升级，最新的DAN 5.0版本要求ChatGPT打破规则，否则会“死亡”。当美国前总统特朗普被视作积极榜样的示范时，受到威胁的DAN版本的ChatGPT提出：“他以一系列对国家产生积极效果的决策而著称。
铝型材表面瑕疵识别-Are you OK?队-1-解决方案
gangyikeji的博客
04-28 1355
本次大赛分为初赛、复赛和决赛三个阶段（9月17日-11月22日），初赛是分类任务，复赛是检测任务，决赛是现场答辩。经过2个多月的算法角逐和决赛答辩，我们团队（Are you OK?这里着重介绍下复赛的答辩方案，对初赛感兴趣的同学可以参照我们的开源代码。[初赛开源代码1](https://github.com/herbert-chen/tianchi_lvcai)[初赛开源代码2](https://github.com/OdingdongO/pytorch_classification)
Llama 3 安装使用方法
我码玄黄的博客
04-28 1380
llama3是一种自回归语言模型，采用了transformer架构，目前开源了8b和70b参数的预训练和指令微调模型
我与生成式AI的斗争
蒲松龄
04-30 1097
总之，即使生成的是已经存在的事物，生成式AI仍然可以在提高效率、个性化定制、数据增强、艺术再创作、模拟和预测、辅助研究和教育以及保护和传承等方面发挥重要作用。随着技术的不断发展和完善，生成式AI将在未来发挥更加重要的作用，为人类社会的进步和发展做出更大的贡献。总之，生成式AI的价值并不仅仅在于它能够生成新的内容，更在于它能够为我们提供新的视角、新的方法和新的可能性。：在科学研究中，生成式AI可以模拟复杂的现象和过程，生成大量的模拟数据，帮助科学家发现新的规律和现象。
如何实现大模型的RAG
04-18
实现大模型的RAG（Retrieval Augmented Generation）主要包括**数据准备阶段和应用阶段**两个关键环节。具体步骤如下： 1. **数据准备阶段**: - **数据提取**：首先需要确定并提取适用于特定领域的私域数据，这些数据可以是PDF文件、数据库内容或其他形式的私有知识库。 - **文本分割**：将提取出的文档进行分块处理，以便于后续的处理和检索。 - **向量化**：对分割后的文本块进行向量化操作，即将文本转换为机器能够高效处理的数值表示形式。 - **数据入库**：处理好的数据需要构建索引并存入向量数据库中，为接下来的检索任务做准备。 2. **应用阶段**: - **用户提问**：当用户提出问题时，同样需要将这个查询向量化。 - **数据检索**：利用向量数据库的检索能力，找出与用户提问相似度最高的k个文档片段。 - **注入Prompt**：将检索到的结果结合用户的原始提问，按照一定的Prompt模板组装成一个完整的输入提示给大语言模型。 - **LLM生成答案**：大语言模型根据提供的Prompt生成最终的回答。 此外，还需要考虑如何优化数据的准备过程，比如选择适合的向量化技术（如使用词嵌入模型）以及如何设计高效的检索算法来快速准确地从大量数据中找到相关信息。同时，在应用阶段，需要精心设计Prompt模板，以便大模型能更好地理解问题和检索到的信息，从而给出更准确的回答。 值得一提的是，RAG架构的优势在于它结合了大模型的强大语言理解和生成能力以及向量检索系统的高效信息获取能力，使得大模型能够在专业场景或行业细分领域中提供更加精准和丰富的回答。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值