Chainlit集成LlamaIndex实现知识库高级检索（子问题查询引擎）

最新推荐文章于 2024-10-20 16:41:03 发布
最新推荐文章于 2024-10-20 16:41:03 发布
阅读量1.1k 收藏 24
点赞数 35
分类专栏： AI大模型 文章标签： 代理模式 java 开发语言 llamaindex rag python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40986713/article/details/142618226
版权

检索原理

llama_index 的 SubQuestionQueryEngine 是一个用于处理复杂查询的机制，它的主要目的是将复杂的查询问题分解成多个较小的、更容易管理和处理的子问题。这种技术有助于提高查询效率和准确性，尤其是在处理大量文档或者需要多步骤推理的情况下。

以下是 SubQuestionQueryEngine 的工作原理概览：

1. 查询分析

当用户提交一个查询请求时，SubQuestionQueryEngine 首先会对这个查询进行分析，以确定如何最佳地将其拆分为一系列更简单的子问题。这个过程涉及到理解查询的语义，识别查询的关键部分，以及确定哪些信息是相关的。

2. 子问题创建

根据查询分析的结果，SubQuestionQueryEngine 会创建一系列子问题。每个子问题都是对原始查询的一个方面或部分的关注。这些子问题的设计是为了让它们可以独立解决，同时又能够组合起来形成对原始查询的全面回答。

3. 子问题处理

对于每个创建的子问题，SubQuestionQueryEngine 会使用合适的查询引擎来寻找答案。这里使用的查询引擎可以是任何 llama_index

了解本专栏 订阅专栏 解锁全文 超级会员免费看
泰山AI
关注
专栏目录
订阅专栏
Chainlit集成LlamaIndex实现知识库高级检索（组合对象检索）
洛阳泰山的博客
09-30 876
在chunk_size大小为512，chunk_overlap为20时，整体回复表现良好。但是也有很大的局限性，模型在选择问题时，能否正确选择，这个变得很关键，但实际上往往很难做到正确选择，就比如，我提问2023年的财务报表，模型会倾向于这是一个总结摘要类的问题，会去摘要索引里查找，但是实际上023年的财务报表数据实在向量索引存储的。
Chainlit集成LlamaIndex实现知识库高级检索（自动合并检索）
洛阳泰山的博客
09-22 1624
** 自动合并检索 ** 自动合并检索原理，和我洗的上一篇文章的检索方案： 将文本分割成512大小（一般对应段落大小）和128（一般对句子大小不是严格的句子长度）大小两种分别存储到索引库，再用llama_index的简单融合寻回器，分别从这里个向量库查询。将查询结果融合排序后交给LLM的方式十分类似，不同点是检索能将子小块的内容合成大块文本返回。上一篇文章《Chainlit集成LlamaIndex实现知识库高级检索（简单融合寻回器）》 自动合并检索主要是将文档按照块大小拆分成不同层级的节点，这些节点包括父节
大模型RAG应用优化实战
python12345_的博客
06-21 841
影响RAG应用性能的因素中，大模型本身的能力相对不是最关键的。当然更快更好更强的大模型肯定会带来更好的RAG性能，只是很多时候我们没的选择，又没有能力自己搞出一个吊打一切的大模型来，所以提升RAG应用性能的主要工作都是在想办法提升知识库的质量和检索质量。著名AI大模型博主Greg Kamradt说“All you need is retrieval”这句话，甚得我心。想要RAG性能好，关键在于如何从具有大量内容的知识库中找到跟用户提问最相关最准确的那部分内容，而且没有其它不相干的内容。
Chainlit集成LlamaIndex实现知识库高级检索（路由检索器）
洛阳泰山的博客
09-28 1640
函数检查是否存在预先存储的索引文件。如果存在，则加载这些索引；否则，读取指定目录下的文档，创建和，并将它们存储到指定路径。这段代码展示了如何使用来构建一个具有智能路由能力的检索系统，并通过chainlit提供实时的聊天界面。用户可以输入查询，系统将根据查询内容智能选择最适合的检索策略，并返回相应的答案和数据来源。此外，还记录了每次查询的执行时间，以便监控性能。在chunk_size大小为512，chunk_overlap为20时，整体回复表现良好。
Chainlit集成LlamaIndex实现知识库高级检索（简单融合寻回器）
洛阳泰山的博客
09-20 1002
* 简单融合寻回器 **简单融合寻回原理，是利用多个检索器，融合查询最终的结果返回给LLM。此检索器还将通过生成与原始问题相关的问题，用相关问题再次检索多个检索器的数据，把原始问题和相关问题经过多个检索器检索结果整理后交给LLM最最终回复。本次代码示例中，使用简单融合寻回器生成加上原问题在内的3个问题利用两个分割大小不一样的检索器进行检索。一个是分割成512大小块的检索器，一个是分割成128块大小的向量检索器。
Chainlit集成LlamaIndex实现知识库高级检索（从小到大递归检索器）
洛阳泰山的博客
09-23 1117
从小到大的检索是指我们在切割文档时可以同时设置多个不同的chunk_size的颗粒度，比如我们可以同时设置chunk_size为128，256，512即按这三个不同的颗粒度对同时对所有文档都切割一遍。利用LlamaIndex中的递归检索器实现对不同颗粒度的文本块检索。递归检索的概念是我们不仅探索最直接相关的节点，还探索节点关系到额外的检索器/查询引擎并执行它们。例如，一个节点可以表示一个结构化表格的简洁摘要，并链接到该结构化表格之上的SQL/Pandas查询引擎。
Chainlit集成LlamaIndex实现知识库高级检索（句子窗口节点检索）
洛阳泰山的博客
09-18 990
通常在执行基础的RAG检索时我们会将文档按指定的块大小(chunk_size)进行切割，然后进行embedding的向量化处理后存入向量数据库中，在检索时我们会计算用户问题(question) 与文档块的相似度，并选取K个最相似的文档(context)，并将其和用户问题一起发送给LLM, 并最终由LLM来生成最终的回复(response那么context的质量将直接影响到response的质量，然而context的质量往往取决于文档块的大小即chunk_size, 当chunk_size较小时它与。
Chainlit集成LlamaIndex实现知识库高级检索（BM25全文检索器）
洛阳泰山的博客
09-23 1893
类是一个基于BM25算法设计的检索器，它主要用于从一组文档或节点中检索出与查询最相关的文档或节点。这个类的设计目的是为了提高文本检索的效率和准确性，尤其是在处理大量文本数据时。BM25（Best Matching 25）算法是一种在信息检索领域广泛应用的经典算法，它是对传统的TF-IDF（Term Frequency-Inverse Document Frequency）算法的一种改进。BM25算法的核心思想是利用词频（TF）和逆文档频率（IDF。
算法题总结（十三）—— 动态规划（上）
maruofan666的博客
10-17 774
凑足总额为j - coins[i]的最少个数为dp[j - coins[i]]，那么只需要加上一个钱币coins[i]即dp[j - coins[i]] + 1就是dp[j]（考虑coins[i]）多重背包的话是从小到大的遍历！相当于二维形式的 递推公式：dp[i] [j] =dp[i-1] [j]+dp[i-1] [j-nums[i ]] , 一个使用 一个不使用。因为递推公式dp[i] += dp[i - nums[j]]的缘故，dp[0]要初始化为1，这样递归其他dp[i]的时候才会有数值基础。
Leetcode 分割等和子集
985小菜鸡
10-14 1250
这个问题使用动态规划解决，类似于“背包问题”的思路。通过判断是否可以找到和为sum / 2的子集，我们就可以判断数组是否能够被分割成两个和相等的子集。//只有nums所有元素和为偶数时，才有可能分割等和子集if(sum % 2!= 0) {//如果所有元素和为偶数, 那么我们只要可以找到凑成和为 sum / 2 的子集，就可以返回 true//创建boolean类型的dp数组, dp[i] 表示子集元素是否可以凑成和为 i。
48 | 代理模式：代理在RPC、缓存、监控等场景中的应用
想起来就更新
10-14 1370
本文介绍了代理模式及其应用。代理模式通过引入代理类，在不修改原始类的情况下附加功能，从而实现业务代码与框架代码的解耦。文章以性能计数器为例，展示了如何利用代理模式优化系统设计。此外，还详细讲解了动态代理的原理，通过动态生成代理类，避免了手动编写多个代理类的繁琐工作。代理模式常用于处理非功能性需求，如日志记录、监控、鉴权、缓存等，在RPC调用和性能优化等领域也广泛应用。通过代理模式，开发者可以更好地分离业务逻辑与附加功能，提升代码的扩展性和可维护性。
OJ-决战（动态规划DP实现）
最新发布
wsd_ontheroad的博客
10-20 130
初始化一个二维数组，dp[i][j]表示前i个炮弹，总质量不超过j时的最大装填数量。每次dp更新累计值时，计数+1，求得最大数量。
代理模式、BigDecimal详解
Mr.W的博客
10-14 1096
BigDecimal可以实现对浮点数的运算，不会造成精度丢失。通常情况下，大部分需要浮点数精确运算结果的业务场景（比如涉及到钱的场景）都是通过BigDecimal来做的。浮点数之间的等值判断，基本数据类型不能用 == 来比较，包装数据类型不能用 equals 来判断。想要解决浮点数运算精度丢失这个问题，可以直接使用BigDecimal来定义浮点数的值，然后再进行浮点数的运算操作即可​​// 0。
C语言复习第3章 函数
qq_57030936的博客
10-15 779
函数介绍 重点为递归
【C++刷题】力扣-#121-买卖股票的最佳时机
会写代码的饭桶
10-16 567
给定一个数组 prices，其中 prices[i] 表示第 i 天的股票价格。假设你可以在第 i 天买入并在第 j 天卖出股票（i ≤ j），设计一个算法来计算你所能获取的最大利润。注意你只能持有一股股票，并且你不能同时参与多笔交易（即在再次买入前必须卖出股票）。
java 异常包装
fdvvg的博客
10-17 340
通过异常包装，可以在Java中有效地处理和传递异常。这样做不仅能保持原始异常的信息，还能为上层调用者提供更多的上下文信息。
基于SSM班级事务管理系统的设计
2401_87849773的博客
10-15 436
管理员账户功能包括：系统首页，个人中心，学生管理，班委管理，班会组织管理，健康档案管理，党员发展管理，党员培训管理，学生成绩管理。主要技术：Java,Spring,mybatis,mysql,jquery,html。班委账号功能包括：系统首页，学生管理，学生成绩管理，活动信息管理，班费通知管理。服务器：SpringBoot自带 apache tomcat。JDK版本：Java JDK1.8。数据库可视化工具： navicat。数据库版本： mysql5.7。开发系统：Windows。
JavaWeb合集05-SpringBoot基础知识
qq_57340195的博客
10-17 863
Autowrite ：自动装配，通过声明的数据类型来装配对应的bean对象。缺点，只能获取到一个相同类型的bean对象，如果有IOC容器里面有2个Bean对象，使用@Autowrite依赖注入就好报错。由于三层架构中，每一层都需要下次成来提供对应的方法，所有要new 下一次的对象，如果上一层的类名发送改变，那么上一层就需要修改对应的类名，如下。3、@Resource注解：通过它来代替@Autowrite注解，直接指定要注入的Bean对象，参数name的值就是要注入的Bean对象。
SpringBoot智能物流管理系统开发指南
2401_85762266的博客
10-18 1025
在概念模式的设计中，E-R模型法是最常见的设计方法。B/S架构的运行方式是在远程的服务器上把开发的软件系统部署在远程的服务器上，在部署好软件系统之后就可以实现在任何接入互联网的电脑上访问部署好的软件系统。6、网络上的客户端和服务器可以用来编程任何独立的编程环境，也有中国，GB2312，BIG5，日文写作，一般基金，用于支持多国语言，并且可以嵌入在数据表和其他软件shift_jis访问柱可以用作的名称。编程语言，如C, C ++，Python和Java的，的Perl，PHP，埃菲尔铁塔，Ruby和Tcl的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

泰山AI

原创不易，感谢支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值