大模型学习-RAG Routing

最新推荐文章于 2024-11-02 15:22:06 发布
最新推荐文章于 2024-11-02 15:22:06 发布
阅读量231 收藏 2
点赞数 3
文章标签： 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fj1024/article/details/139797463
版权

Routing为了根据query的内容匹配正确的数据源。

Logical routing

Logical routing可以使用LLM对query进行推理并利用function calling生成结构化输出，并选择更合适的数据存储。

Semantic routing

Semantic routing将query和一组prompt向量化表示，并基于相似性选择合适的prompt。

fj1024
关注
人工智能_大模型033_LangChain003_记忆封装Memory上下文控制机制_LCEL表达式语言---人工智能工作笔记0168
添柴程序猿的专栏
04-15 266
可以看到上面,加载了之前我们定义的tools,并且,拼接了functions解析器,还有call_tool_list,这些工具,然后 ,拼接上StrOutputParser解析器,然后最后,再RunnableLambda(route)调用对应的函数,结果。然后接着就是| 使用LCEL,做下面的动作,如果大模型返回的是functions,那么就调用JsonOutputToolsParser解析,如果返回的是text,那么就用StrOutputParser解析器解析,这个过程。有什么我可以帮助您的吗？
rabbitmq笔记（三）
weixin_43373417的博客
06-21 283
消息队列模型之fanout 模型 fanout 扇出 也称为广播 在广播模式下，消息发送流程是这样的： 可以有多个消费者 每个消费者有自己的queue（队列） 每个队列都要绑定到Exchange（交换机） 生产者发送的消息，只能发送到交换机，交换机来决定要发给哪个队列，生产者无法决定。 交换机把消息发送给绑定过的所有队列 队列的消费者都能拿到消息。实现一条消息被多个消费者消费 具体的实现步骤 1. 开发生产者 package com.
检索增强生成RAG系列5--RAG提升之路由（routing）
代码还是得自己扣
07-02 1339
在系列3和系列4我讲了关于一个基本流程下，RAG的提高准确率的关键点，那么接下来，我们再次讲解2个方面，这2个方面可能与RAG的准确率有关系，但是更多的它们是有其它用途。本期先来讲解RAG路由。
Langchain 新玩法：LangGraph 赋能 RAG Agent，自适应、自校正、Self-RAG
机器学习社区
06-09 1205
我们将结合RAG论文中的思想形成一个RAG代理：路由：自适应RAG（论文）：该框架能够动态路由问题到不同的检索方法，确保检索到最相关的信息以生成响应。回退：纠正RAG（论文）：如果文档被认为与查询不相关，该机制会无缝地回退到网络搜索，确保生成准确且有上下文相关的响应。自我纠正：Self-RAG（论文）：通过在LM生成中引入自我反思，该框架使模型能够修正受幻觉影响或不回答问题的答案，从而增强各项任务的事实性和多功能性。
大模型中的RAG
qq_41200212的博客
04-15 1045
大语言模型（LLM）展示了令人印象深刻的能力，但却遇到了诸如幻觉、过时的知识和不透明、无法追踪的推理过程等挑战。检索-增强生成（RAG）已经通过整合来自外部数据库的知识而成为一种很有前途的解决方案。这提高了生成的准确性和可信度，特别是对于知识密集型任务，并允许持续的知识更新和特定领域信息的集成。RAG 协同地将 LLM 的内在知识与外部数据库的庞大的、动态的存储库结合起来。这篇综述论文提供了对 RAG 进展的详细调查，包括 Naive RAG、Advanced RAG 和 Modular RAG。
NVIDIA 大模型 RAG 分享笔记
RessCris的博客
01-18 1540
通用目的的微调技术。参数化和非参数化的技术。RAG对于大语言模型来说类比于开卷考试。三个步骤RetrivealAugmentation: 增强的 prompt增强的上下文是有理有据的，减少幻觉参数化的知识，结合传入的数据，生成技术非参数化的技术：数据库的部分文档加载预训练的参数化部分基础大语言模型的选择部署平台的选择，提升用户的体验模型：适合场景的模型，比如代码类，问答类会有对应的模型部署：低延迟、高吞吐率。是否支撑换模型。
AI实践与学习6-RAG流程优化学习
xiaosi的博客
06-15 1146
RAG流程很多细节优化点，助力AIGC。
Langchain新玩法：LangGraph赋能RAG Agent，自适应、自校正、Self-RAG，一网打尽！
python1234567_的博客
05-31 957
Langchain的新框架，LangGraph结合3个突破性的框架：Corrective Retrieval Augmented Generation (CRAG，自纠正检索增强生成), Self-Reflective Retrieval-Augmented Generation (Self-RAG，自反射检索增强生成) , Adaptive QA framework（自适应 QA 框架）。重新定义语言模型的能力。
AI大语言模型LLM学习-Advanced RAG(高级检索增强生成)从理论到实战
fengqiuhuang123的专栏
09-18 1381
在《AI大语言模型LLM学习-RAG技术及代码实现》一文介绍了RAG的相关知识，其中介绍到RAG的发展经历三个主要阶段：原始（Native RAG）、高级（Advanced RAG）和模块化RAG（Modular RAG），文中实战使用实际案例介绍了原始（Native RAG）的代码实现；本文将重点介绍高级（Advanced RAG）的概念及代码实现。摘要技术用于生成检索结果的简短摘要，帮助用户快速了解文档的主要内容。包括抽取式摘要和生成式摘要两种方法。
大模型技术学习(3): RAG
u011160113的博客
07-18 838
本章内容中我们从大模型的问题出发，谈到解决问题的两种方式：微调和RAG。之后我们详细讲解了RAG的基本概念和组成范式。最后我们对比了一下RAG和微调两种大模型优化方式的优缺点、使用场景，并且介绍了下RAG技术当前的最新进展。
模块化RAG技术路线图(Modular RAG Technical Map)：从基础Naive RAG 到高级Advanced，再到Modular RAG全方位技术解读
丨汀、的博客
08-27 461
模块化RAG技术路线图(Modular RAG Technical Map)：从基础Naive RAG 到高级Advanced，再到Modular RAG全方位技术解读
从RAG到GraphRAG的应用落地揭秘
人工智能曾小健
05-21 1662
RAG（检索增强生成）是什么？正如提到的那样，它是一种技术，可以“良好”地解释用户的查询，检索“相关”信息，将其处理为上下文，然后将此有用信息融入回复中。正如引用的网站所指出的，RAG以其成本效益、相对准确性、提供领域特定语境的充足性、反映最新信息的能力以及追踪信息来源文档的透明度和可解释性等特点而被认为是一种主要选择的方法。
RAG未来的出路
周博洋的博客
06-17 1120
一个简单的解决办法是，通过预生成QA对，来搞这个事情，因为问题和答案的相似性，永远不可能比问题和问题的相似性高，因为余弦的作用机制，所以我们把每个chunk，通过prompt engineer让GPT预先生成了一堆针对这个chunk提出的问题，然后做2级查找结构，比如刚才的那个场景，我们在生成QA对的时候，就有可能被GPT的深层推理，推出来其中一个Q是"男职工的陪产假有多少天"，当然我并不否认长上下文对提升理解力的一些帮助，就是没大家想的那么牛B而已（说个数据，达到128K以上的语料数据，不到百分之5。
嵌入式通信协议：UART简明学习笔记
weixin_73867577的博客
10-31 772
学习UART串口的简明学习笔记
ORB-SLAM2源码学习：ORBextractor.cc：IC_Angle 利用灰度质心法求解关键点方向角
2301_76831056的博客
11-01 669
IC_Angle 利用灰度质心法求解关键点方向角并在computeOrientation函数中被调用计算图像中所有特征点的方向。
嵌入式通信协议：MODBUS简明学习笔记
最新发布
weixin_73867577的博客
11-02 238
学习Modbus的简明学习笔记
jsp web学习二(比较老的啦)
qq_52122048的博客
10-29 1078
JavaBean模式(MVC)适合开发复杂的web应用，在这种模式下，servlet负责处理用户请求，jsp负责数据显示，javabean负责封装数据。Servlet+JSP+JavaBean模式程序各个模块之间层次清晰，web开发推荐采用此种模式。一个良好的JavaWeb项目架构应该具有以上的11个包，这样显得层次分明，各个层之间的职责也很清晰明了，搭建JavaWeb项目架构时，就。
diffusion model 学习笔记
wubing's 博客
11-01 946
郎之万公式: 描述了粒子做随机布朗运动 (粒子位置随时间变化的关系), 是一种 SDE, 描述了 由梯度力(即.即我们在无条件模型 DDPM 估计的噪声中添加一个微小的扰动(. 基本上,在采样一半时,基本上预测的。输出的是噪声的估计, 这个估计的噪声。通过上面的公式，我们可以知道，当知道。),就可以作为条件模型的噪声估计.首先,假设我们已经有了一个训练好的。: 每一步中保留的原始信号的比例。的计算有各种不同的方法，). 已经接近于真实的。)影响的系统的时间演化.也就是,我们训练的网络。
学习力体系
m0_46221544的博客
10-29 355
在一个小镇上，有一位年轻的学者小明，梦想成为一名科 学家。然而，他总是感到学习困难，知识无法长久保持。有一天，他遇到了一位智者，智者告诉他：“学习的力量能够改变命运。”小明意识到，提升学习力是实现梦想的关键，从此开始探索学习方法的旅程。通过以上方法，小明的学习能力不断提升，最后实现了自己的梦想。每个人都可以通过这些方法来加强自身的学习力，迎接更加美好的未来。怎样才能让知识长久保持？如何有效地提升学习力？
AI大模型技术应用与RAG检索增强快速学习指南
"大模型应用"则指明了学习对象是应用于各种实际问题中的大型机器学习模型；而"RAG"则进一步细化到这一应用领域的特定技术。 在压缩包的文件名称列表中，我们可以看到多个文件，其中包含了几种不同的文件类型，如.md...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值