【AI大模型应用开发】【RAG优化 / 前沿】0. 综述：盘点当前传统RAG流程中存在的问题及优化方法、研究前沿

已于 2024-03-22 13:40:37 修改
阅读量4.2k 收藏 49
点赞数 48
分类专栏： 大模型 文章标签： 人工智能 langchain 笔记 agi RAG GPT 学习
于 2024-03-07 07:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Attitude93/article/details/136231812
版权
  • 大家好，我是同学小张，日常分享AI知识和实战案例
  • 欢迎 点赞 + 关注 👏，持续学习，持续干货输出。
  • +v: jasper_8017 一起交流💬，一起进步💪。
  • 微信公众号也可搜【同学小张】 🙏

本站文章一览：

在这里插入图片描述

文章目录

0. 开篇

我之前写过 RAG 的基本流程和实战（【AI大模型应用开发】3. RAG初探 - 动手实现一个最简单的RAG应用），里面介绍的是基本RAG的流水线。最后我也提到，要想实现比较好的RAG效果，还有很多工作需要做，落地很难。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
RAG 开发四大痛点及解决方案
Meimei9411的博客
07-31 897
收录了52个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。在最初的 RAG 方法中，比较类型的问题表现尤为不佳。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
【AI大模型应用开发】【RAG评估】0. 综述：一文了解RAG评估方法、工具与指标
同学小张的博客
02-24 5989
本文主要总结了当前比较流行的RAG评估方法和指标。当前AI技术的快速发展，RAG和RAG评估是当前比较有前景的发展方向，不断有新的评估工具和理论被提出，让我们持续跟进，了解这些工具和理论，从而在使用时知道如何选择。
一文详谈RAG优化方案与实践
weixin_45583158的博客
06-19 1322
导读RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。一、RAG的背景介绍随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。通义系列、GP...
传统RAG存在的问题以及解决方法
Hanscal
06-28 852
传统的RAG技术逐渐开始与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）和智能体（Agent）等技术结合，构成更广义的RAG问答链路框架。PS: 欢迎大家扫码关注公众号，我们一起在AI的世界中探索前行，期待共同进步！
RAG系统全栈开发：从核心原理到企业级应用实战
最新发布
程序员鑫港的博客
04-07 651
RAG 技术的发展正在改变 AI 系统与知识交互的方式。通过将信息检索与生成模型相结合，我们创造了更智能、更可靠的 AI 系统。未来，随着技术的不断进步，RAG 系统将在更多领域发挥重要作用，帮助我们更好地利用和传递知识。展望未来，RAG 技术的发展将继续深化，可能与其他前沿技术如量子计算、脑机接口等产生有趣的交互。这个领域充满机遇，也需要更多研究者和实践者的参与和创新。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
企业中对RAG的优化方案
菜鸟毅战
06-28 1134
通过优化RAG在检索、语义和生成方面的性能，可以显著提升企业在不同业务场景中的数据处理效率和准确性。合理选择检索模式、解决语义问题以及引入先进的生成架构是实现这一目标的关键步骤。
大模型RAG优化方案与实践（非常详细）从入门到精通，看这一篇就够了
玩赚AI大模型的博客
07-17 4063
RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。一、RAG的背景介绍随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。通义系列、GPT系列、LLama系列等模型，在语言交互场景下表现十分抢眼。
一文彻底搞懂检索增强生成(RAG) 优化策略
2401_85379281的博客
12-30 3526
本文详细介绍了检索增强生成（RAG）技术的各个优化策略，包括文档块切分、文本嵌入模型、提示工程、大模型迭代、架构优化、索引优化、索引数据优化等多个方面。通过这些优化策略，RAG 技术在处理复杂查询和生成信息丰富回应方面展示了巨大的潜力。未来，RAG 技术将在垂直优化、横向扩展以及生态系统构建等方面继续发展，为多领域应用提供更低的训练成本和更优的性能表现。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
RAG优化
weixin_40566713的博客
06-22 443
1、大模型的局限性2、什么是检索增强的语言模型(Retrieval-based LMs)3、为什么要使用检索增强的语言模型（Retrieval-based LMs）4、RAG和SFT微调有什么不同？
一文细数大模型 RAG 十二大痛点及解决方案
2201_75499313的博客
07-13 1630
暑期实习基本结束了，校招即将开启。不同以往的是，当前职场环境已不再是那个双向奔赴时代了。求职者在变多，HC 在变少，岗位要求还更高了。最近，我们又陆续整理了很多大厂的面试题，帮助一些球友解惑答疑，分享技术面试中的那些弯弯绕绕。检索增强式生成（RAG）是一种使用检索提升语言模型的技术。具体来说，就是在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成过程。这种技术能极大提升内容的准确性和相关性，并能有效缓解幻觉问题，提高知识更新的速度，并增强内容生成的可追溯性。
大模型应用开发：RAG入门与实战-札记PDF
12-10
本书《大模型应用开发:RAG入门与实战》针对近年来蓬勃发展的检索增强生成技术，旨在帮助读者快速入门并掌握RAG应用开发的核心技能。 内容涵盖了RAG的基础概念、核心技术以及实际应用场景。初学者将通过本书学习RAG与...
基于大模型的企业级RAG构建、应用与开发
11-23
在现今的企业级应用中，大模型和RAG技术正逐步成为提升数据检索和问答系统智能化水平的关键。RAG即Retrieval-Augmented Generation，它通过融合检索和生成的机制，实现对信息的智能检索和自然语言的生成。本文将深入...
阿里云 AI 搜索 RAG 大模型优化实践.pdf
11-16
同时，为了提高模型的可操作性与实用性，阿里云还提供了相应的开发平台组件，例如阿里云SDK、OpenAI SDK和LangChain等，以支持第三方开发者在平台之上构建和优化自己的应用。 在数据层方面，阿里云支持多种数据格式...
如何优化RAG系统的性能表现？10条实用策略
Baihai_IDP的博客
12-20 1657
检索增强生成(RAG)系统最近备受关注，ChatGPT的火爆更让这类系统成为广泛讨论的热点。我们今天为大家带来的这篇文章，作者Matt Ambrogi的核心观点是：构建一个基本可用的RAG系统非常简单，但要使其达到实际生产可用的程度则异常困难，需要我们投入大量精力。 为此，作者详细介绍了10种策略，包括清洗数据、尝试不同索引类型、优化分块策略、使用 Base Prompt、使用元数据过滤、使用查询路由、研究重排序、使用查询转换、微调嵌入模型、使用 LLM 生态相关工具等，这些策略都可能不同程度地提高RAG
关于RAG优化的几个小技巧
python1234567_的博客
06-28 1470
在对知识库中文档内容进行切片时，是可以以该切片为假设条件，利用LLM预先设置几个候选的相关性问题的，也就是说，这几个候选的相关性问题是和切片的内容强相关的。另一方面，在实际的业务场景中，准确率可能是现阶段最重要的问题，业务人员对于应用的要求可能是90分，而LLM目前的能力只能达到60分，如果不能通过其它的方式提升效果，那么应用可能无法在实际场景中使用了。一种处理的方案是，通过分割和存储小块数据来实现，在检索过程中，它首先获取小块，然后查找这些块的父ID，并返回那些较大的文档。
RAG优化方法
niulinbiao的博客
02-12 321
是一种结合了检索和生成的自然语言处理（NLP）技术。它通过将生成模型与外部知识库（如文本数据集、数据库等）进行检索结合，来增强生成模型的能力，提供更准确、更相关的答案。具体来说，RAG检索（Retrieval）：模型首先从一个大的知识库中检索出与当前问题相关的文档或片段。这个步骤帮助模型找到具体信息，而不是完全依赖预训练的参数。生成（Generation）：在检索到相关信息后，生成模型会基于这些信息来生成更准确的回答。
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
m0_63171455的博客
09-04 3572
其借助社区检测算法来识别知识图谱中的多个社区，并利用LLM对这些社区进行总结与摘要。因此，当回答类似这样的问题：“最近几年高端智能手机的整体发展趋势是怎样的？Microsoft GraphRAG会通过Map-Reduce算法首先从多个不同的关联社区（比如不同年份社区）来搜集到“高端智能手机”的信息（Map），最后汇总生成全局性答案（Reduce）。
RAG介绍及RAG的优化
qq_29837229的博客
04-26 823
信息检索和生成语言建模。这种方法旨在为语言模型提供访问外部数据源，来提高其在生成响应时的准确性和相关性，从而增强语言模型的能力。1）检索：用收到的query去库里查到最相关的文档或者上下文2）生成：把以上得到的内容输入给LLM，LLM通过理解和结合，整理回答出问题的答案。参考 https://mp.weixin.qq.com/s/mn0MilYoyV0Df_7SXnuY2g高级检索增强生成（Advanced RAG）：对传统RAG增加复杂的检索前 和检索后过程。检索后：增加ReRank。
RAG开发中常见的12个痛点及解决方案
python1234567_的博客
06-28 1841
我们研究了在开发检索增强生成（RAG）系统时遇到的 12 个主要难题（包括原论文中的 7 个和我们额外发现的 5 个），并提出了针对每个难题的解决策略。通过将这 12 个挑战及其建议的解决方法并列在一张表中，我们现在可以更直观地理解这些问题及其对策：尽管这份清单不可能涵盖所有内容，但目的在于揭示 RAG 系统设计与实现过程中的复杂挑战。我希望通过此举增进对这些挑战的深刻理解，并激励大家开发出更为强大且适合用于生产环境的 RAG 应用。​。
AI大模型应用：RAG模型与专家知识图谱的联合实现
在文件的标签中，"人工智能"和"大模型应用"直接关联到当前AI领域的核心议题，而"RAG"则特指文件中所涉及到的技术。 文件压缩包中的文件名称列表揭示了文件内容的大致结构和功能： 1. rag_bot.py: 这个文件很可能...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

同学小张

如果觉得有帮助，欢迎给我鼓励！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值