Chainlit集成LlamaIndex实现知识库高级检索（句子窗口节点检索）

已于 2024-09-20 21:15:00 修改
阅读量985 收藏 30
点赞数 25
分类专栏： AI大模型 文章标签： llamaindex chainlit python llm rag
于 2024-09-18 12:50:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40986713/article/details/142323568
版权

检索原理

句子窗口检索原理
通常在执行基础的RAG检索时我们会将文档按指定的块大小(chunk_size)进行切割，然后进行embedding的向量化处理后存入向量数据库中，在检索时我们会计算用户问题(question) 与文档块的相似度，并选取K个最相似的文档(context)，并将其和用户问题一起发送给LLM, 并最终由LLM来生成最终的回复(response)。那么context的质量将直接影响到response的质量，然而context的质量往往取决于文档块的大小即chunk_size, 当chunk_size较小时它与question的匹配度越高，但此时context的信息量就会相对较少，这样也会导致最终的response质量变差，而当chunk_size较大时虽然context的信息量较大，但是context与question的匹配度就会降低，这也会导致最终的response质量变差&#x

了解本专栏 订阅专栏 解锁全文 超级会员免费看
泰山AI
关注
专栏目录
订阅专栏
Chainlit集成LlamaIndex实现知识库高级检索（自动合并检索）
洛阳泰山的博客
09-22 1615
** 自动合并检索 ** 自动合并检索原理，和我洗的上一篇文章的检索方案： 将文本分割成512大小（一般对应段落大小）和128（一般对句子大小不是严格的句子长度）大小两种分别存储到索引库，再用llama_index的简单融合寻回器，分别从这里个向量库查询。将查询结果融合排序后交给LLM的方式十分类似，不同点是检索能将子小块的内容合成大块文本返回。上一篇文章《Chainlit集成LlamaIndex实现知识库高级检索（简单融合寻回器）》 自动合并检索主要是将文档按照块大小拆分成不同层级的节点，这些节点包括父节
Chainlit集成LlamaIndex实现知识库高级检索（路由检索器）
洛阳泰山的博客
09-28 1634
函数检查是否存在预先存储的索引文件。如果存在，则加载这些索引；否则，读取指定目录下的文档，创建和，并将它们存储到指定路径。这段代码展示了如何使用来构建一个具有智能路由能力的检索系统，并通过chainlit提供实时的聊天界面。用户可以输入查询，系统将根据查询内容智能选择最适合的检索策略，并返回相应的答案和数据来源。此外，还记录了每次查询的执行时间，以便监控性能。在chunk_size大小为512，chunk_overlap为20时，整体回复表现良好。
Chainlit集成LlamaIndex实现知识库高级检索（从小到大递归检索器）
洛阳泰山的博客
09-23 1111
从小到大的检索是指我们在切割文档时可以同时设置多个不同的chunk_size的颗粒度，比如我们可以同时设置chunk_size为128，256，512即按这三个不同的颗粒度对同时对所有文档都切割一遍。利用LlamaIndex中的递归检索器实现对不同颗粒度的文本块检索。递归检索的概念是我们不仅探索最直接相关的节点，还探索节点关系到额外的检索器/查询引擎并执行它们。例如，一个节点可以表示一个结构化表格的简洁摘要，并链接到该结构化表格之上的SQL/Pandas查询引擎。
Chainlit集成LlamaIndex实现知识库高级检索（简单融合寻回器）
洛阳泰山的博客
09-20 994
* 简单融合寻回器 **简单融合寻回原理，是利用多个检索器，融合查询最终的结果返回给LLM。此检索器还将通过生成与原始问题相关的问题，用相关问题再次检索多个检索器的数据，把原始问题和相关问题经过多个检索器检索结果整理后交给LLM最最终回复。本次代码示例中，使用简单融合寻回器生成加上原问题在内的3个问题利用两个分割大小不一样的检索器进行检索。一个是分割成512大小块的检索器，一个是分割成128块大小的向量检索器。
Chainlit集成LlamaIndex实现知识库高级检索（BM25全文检索器）
洛阳泰山的博客
09-23 1881
类是一个基于BM25算法设计的检索器，它主要用于从一组文档或节点中检索出与查询最相关的文档或节点。这个类的设计目的是为了提高文本检索的效率和准确性，尤其是在处理大量文本数据时。BM25（Best Matching 25）算法是一种在信息检索领域广泛应用的经典算法，它是对传统的TF-IDF（Term Frequency-Inverse Document Frequency）算法的一种改进。BM25算法的核心思想是利用词频（TF）和逆文档频率（IDF。
Chainlit集成LlamaIndex实现知识库高级检索（组合对象检索）
洛阳泰山的博客
09-30 868
在chunk_size大小为512，chunk_overlap为20时，整体回复表现良好。但是也有很大的局限性，模型在选择问题时，能否正确选择，这个变得很关键，但实际上往往很难做到正确选择，就比如，我提问2023年的财务报表，模型会倾向于这是一个总结摘要类的问题，会去摘要索引里查找，但是实际上023年的财务报表数据实在向量索引存储的。
使用 Elasticsearch 和 LlamaIndex 进行高级文本检索：句子窗口检索
Elastic 中国社区官方博客
01-16 2552
句子窗口检索背后的核心思想是根据查询有选择地从自定义知识库中获取上下文，然后利用该上下文的更广泛版本来生成更强大的文本。此过程涉及嵌入一组有限的句子以供检索，这些句子周围的附加上下文（称为 “窗口上下文 - window context”）单独存储并链接到它们。一旦识别出最相似的句子，就会在将这些句子发送到大型语言模型 (LLM) 进行生成之前重新整合上下文，从而丰富整体上下文理解。通过将焦点缩小到特定的句子窗口，SWR 旨在提高信息提取的准确性和相关性，从而促进文本的全面合成。
Chainlit集成LlamaIndex并使用通义千问模型实现AI知识库检索网页对话应用增强版
洛阳泰山的博客
09-17 1179
LlamaIndex是一个数据框架，它主要为基于大语言模型（LLM）的应用程序设计，允许这些应用程序摄取、结构化并访问私有或特定领域的数据。这种框架对于那些希望利用LLM的强大能力来处理自身专属数据集的组织来说尤其有用。由于大多数公开的大语言模型都是在大量的公共数据上训练的，它们缺乏对用户特定数据的理解，而这正是LlamaIndex发挥作用的地方。LlamaIndex支持Python和TypeScript，使得开发者可以通过使用这些编程语言来集成和操作数据。
pandas中数据子集的获取
weixin_43597208的博客
10-14 466
通常，在pandas模块中实现数据框子集的获取可以使用iloc、loc和ix三种方法，这三种方法既可以对数据行进行筛选，也可以实现变量的筛选，它们的语法可以表示成[rows_select,cols_select]。iloc只能通过行号和列号进行数据的筛选，可以将iloc中的i理解为’integer’，即只能向[rows_select,cols_select]指定整数列表该索引方式与数组的索引方式类似，都是从0开始，可以间隔取号，对于切片仍然无法取到上限。
【Java 22 | 8】 深入解析Java 22 ：Pattern Matching 特性详解
颜淡慕潇
10-17 2067
Java 22 进一步扩展了模式匹配（Pattern Matching）功能，简化了类型检查和条件表达式的使用。此特性不仅提升了代码的可读性，还减少了常见的错误。以下是对 Java 22 中模式匹配的详细介绍，包括基础概念、增强特性、使用场景、示例代码，以及如何在实际项目中有效利用模式匹配
Python 使用 Jarvis 算法或包装的凸包（Convex Hull using Jarvis’ Algorithm or Wrapping）
csdn_aspnet的专栏
10-14 1196
例如，当输入 (0, 3), (0, 0), (0, 1), (3, 0), (3, 3) 时，它产生 (0, 3) (0, 0) (3, 0) (3, 3) 的输出；当输入 (0, 3), (0, 1), (0, 0), (3, 0), (3, 3) 时，输出为 (0, 3) (0, 1) (0, 0) (3, 0) (3, 3)。下一个点被选为在逆时针方向上领先于所有其他点的点，即，如果对于任何其他点 r，我们有“orientation(p, q, r) = 逆时针”，则下一个点是 q。
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
最新发布
全网粉丝100W+、全栈领域优质创作者、B站、github、CSDN等社区技术专家、专注于高端精品毕业项目源码实战
10-18 398
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
10月下半记录
cqbzcsq的博客
10-14 151
之后又出现了这种情况，reload window的时候突然断连了，关掉terminal之后再进行reload window就又好了，很奇怪，可能是vscode选择环境和conda出现了一些冲突。indices和data的长度均为矩阵中的非零值个数，indtpr长度为矩阵行数+1且单调不降，且最后一个值等于矩阵中的非零值个数。则说明data[0,1)的值a在第一行，data[1,4)的值bcd在第二行，data[4,8)的值efgh在第三行，第四行没有值。之前都可以正常连接，但是突然就不对了。
【python入门到精通专题】8.装饰器
情不知所起一往而深
10-13 781
什么是property属性？一种用起来像是使用的实例属性一样的特殊属性，可以对应于某个方法。class Foo:pass# 定义property属性@propertypassfoo_obj.func() # 调用实例方法foo_obj.prop # 调用property属性@propertyreturn 100定义时，在实例方法的基础上添加 @property 装饰器；并且仅有一个self参数调用时，无需括号。
Python知识点：基于Python技术，如何使用AirSim进行无人机模拟
码农超哥的博客
10-13 632
AirSim是由微软开发的一个开源模拟器，它支持多种无人机模型，并且可以模拟真实的物理环境和传感器数据。AirSim提供了Python API，使得用户可以通过Python脚本控制无人机的行为，包括起飞、降落、移动和执行任务等。AirSim提供了一个强大的平台，允许用户在虚拟环境中测试和开发无人机应用。通过Python API，用户可以轻松地控制无人机的行为，并获取传感器数据，这对于算法开发和测试尤为重要。随着无人机技术的不断进步，AirSim将继续在无人机领域发挥重要作用。
使用 YOLOv11 进行 健身辅助，动作计数，动作矫正 -- AI 俯卧撑计数，AI 引体向上计数
shiter编写程序的艺术
10-16 63
主要是通过区分up 和down 来区分 是否完成了一整个step。
JavaSE——认识异常
wx2023_10_15的博客
10-12 969
本文主要是正在学习异常的总结，主要讲了异常的概念、体系结构、分类、处理以及捕获，还有自定义异常类
初始Python篇（2）——逻辑控制、序列
我要学编程的博客
10-14 1194
程序的组织结构：顺序、选择、循环 pass空语句 猜数字小游戏 序列、序列相关操作
python中while 1表示什么
hakesashou的博客
10-16 239
while '1'，while [1, 2]，while (1, 2)，while x，只要len(x)>0，就是条件永远为真，等价于while True。像while 1，while 2，while -1，while -2，while x，只要x不等于0，就是条件永远为真，等价于while True。while ''，while []，while ()，while x，只要len(x)=0，就是条件永远不为真，等价于 while False。while 0 等价于 while False。
分布式FAISS图像检索库实战项目解析
资源摘要信息: "图像检索-用于图像检索的分布式FAISS向量检索库-附项目源码-优质项目实战.zip" 关键词：图像检索、分布式、FAISS、向量检索库、项目源码、优质项目实战 在现代信息技术的发展中，图像检索技术已...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

泰山AI

原创不易，感谢支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值