RAG与LLM原理及实践（11）--- Milvus hybrid search 源码分析及思想

已于 2024-08-15 09:51:59 修改
阅读量259 收藏
点赞数 3
分类专栏： RAG Milvus Chroma 源码及实践 文章标签： milvus python vector db 人工智能
于 2024-08-12 19:45:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/talentyiyy/article/details/141130617
版权

目录

背景

hybrid search 源码分析

WeightedRanker

源码

hybrid search 核心

参数详解

基本入参

扩展入参

aysnc方式代码调用案例

说明

源码逻辑

prepare 调用过程

stub 调用结果

stub 调用过程

blocking 与 async 调用方式

深入内部core

weightedRanker 的check

核心权重计算逻辑

源码修改原因

再探源码

背景

前面通过实际项目运作及给出的完整代码，你应该掌握了 Milvus bybrid search 使用方法。但只是会用，肯定不够，要从源码的角度知道他是怎么做的，以及为什么这么做。我尽量用通俗易懂的语言结合Milvus源代码把最核心的hybrid机制说清楚。使得你的内力得到进一步提升，同时对代码设计的思想及操控力更上一层楼，话不多说，直接开始看。

hybrid search 源码分析

我准备从上往下，循序渐进慢慢向 Milvus hybrid core 靠拢，step by step 解开他的神秘面纱。领悟了源码，不仅是内力得到增强，反过来说，你会更贱透彻的掌握他的使用方式及运作原理。

WeightedRanker

源码

从构造的角度上来说，WeightedRanker 非常简单，就是告诉milvus search engine 当前的策略是 给予权重的。还有就是权重是多少。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
PhoenixAI8
关注
专栏目录
订阅专栏
milvus2.4多向量搜索源码分析
shulu的专栏
05-08 343
HybridSearch会转换为多个Search搜索。
Milvus 实战 | 基于分区表实现结构化数据与非结构化数据的混合查询
ZILLIZ
02-07 1723
通过深度学习的神经网络模型，可以将图片、视频、语音、还有文本等非结构化数据转换为特征向量。除了结构化的向量，这些数据往往也需添加其他属性。如人脸图片，可以添加性别、是否戴眼镜、图片抓取时...
RAG与LLM原理及实践（13）--- hybrid async search 使用及源码分析
talentyiyy的专栏
08-14 443
milvus hybrid search 确实效果还不错，但是有的场景，比如我们在分布式系统中由于需要较高的query 准确率，我们将TSO 相关的参数包括 guarantee_time, graceful_time 等设置比较长，而且 data consistency 有可能不是 Strong，nprobs 有可能也比较大，又比如说 ef 设置比较大，HNSW或者说是 ANN search 算法本身可能也比较耗时，整体来说，search 整体可能较慢。弄懂了这几个地方的处理，理论上源码精髓你就理解了。
RAG与LLM原理及实践（12）--- Milvus RRFRanker的使用场景及源码分析
talentyiyy的专栏
08-13 626
RRF（Ranked Retrieval Fusion，排序检索融合），他实际上侧重的是最后搜索结果的排名。他的计算公式为：𝑁 代表不同召回路的数量，rank𝑖(𝑑) 是第 𝑖 个检索器对文档 𝑑 的排名位置，𝑘 是一个平滑参数，通常取 60。这里这个公式看不懂没关系，带入这个例子你就明白了。
【大模型-RAG】RAG最佳实践论文及项目解读
ccql's Blog
09-05 724
论文《Searching for Best Practices in Retrieval-Augmented Generation》由复旦大学的研究人员撰写，旨在探索RAG技术的最佳实践。RAG通过结合预训练模型和基于检索的模型，提供了一个增强模型性能的稳健框架。论文通过广泛的实验，提出了几种策略，旨在在性能和效率之间取得平衡。
RAG开源项目Qanything源码阅读1-概述+服务
消极的人永远是对的，积极的人选择勇往直前
07-02 968
相比于论文中的对RAG的探索，实践更讲求实用性和全链路的完整性，类似文档处理、精排等逻辑在现实中的使用，一个很快的学习方式就是看开源项目，随着RAG项目的逐渐成熟，完整的开源项目也逐渐变多，包括langchain在内，类似Qanything、RAGflow、fastRAG。RAG全流程都具备，从文件上传、处理到在线推理、排序等，关键模块都是有的，而且中文注释，注释和文档也比较完善，很适合学习。包括完整的前后端体系。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 8219
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
LangChain - Retrievers
AI + 工程
04-06 1345
一、入门 BaseRetriever 向量检索 一行代码创建索引 (One Line Index Creation) Walkthrough 二、上下文压缩 contextual_compression 入门 使用纯向量存储检索器 添加上下文压缩使用 `LLMChainExtractor` 更多内置压缩器：过滤器 `LLMChainFilter` `EmbeddingsFilter` 将压缩器和文档转换器串联起来 三、自查询 self_query 入门 (Pinecone 创建自查询检索器 测试 过滤 k
基于 Milvus + LlamaIndex 实现高级 RAG
ZILLIZ
05-22 1135
随着大语言模型（LLM）技术的发展，RAG（Retrieval Augmented Generation）技术得到了广泛探讨和研究，越来越多的高级 RAG 检索方法也随之被人发现，相对于普通的 RAG 检索，高级 RAG 通过更深化的技术细节、更复杂的搜索策略，提供出了更准确、更相关、更丰富的信息检索结果。如果检索需要精确的关键词匹配，这种检索技术很有益处。生成回复质量面临着幻觉挑战，即 LLM 生成的答案并没有基于所提供的上下文，和上下文不相关，或者生成的回复存在着包含有害或歧视内容的潜在风险。
RAG与LLM原理及实践（3）--- RAG结合LLM的local实现并附完整代码
talentyiyy的专栏
06-22 1065
其实LLM结合RAG的方式可以有很多种，但是原理都是上一节介绍的，其实本质上就是要LLM知道，哪一类问题‘我’的回答是满足提问者要求的，哪一类问题‘我’可能回答的没有RAG好，‘我’可以借助‘RAG’，并将答案修饰形成提问者需要的风格进行予以转述，并回答。下面直接上 python 代码完整实现本地的RAG+LLM，并解释其实现。
RAG与LLM原理及实践（2）--- RAG结合LLM function调用的原理及落地实践
talentyiyy的专栏
06-21 1346
在这两者结合的过程中，你要知道一件事，那就是LLM大模型必须知道你所提出的问题，在什么时候需要 LLM来回答， 什么时候需要 RAG 来回答，才是比较好的结果，prompt 起着至关重要的作用。一方面，RAG的专家知识库上因为加入了LLM，而使得RAG对应更自然，不再是生硬的回答，借助LLM，可以帮助RAG的回答润色。我们可以看到我们自己定义了专业的函数，这就相当于是 RAG，他的 "description": "当你想知道现在的时间时非常有用。" "一个小时后几点" "北京天气如何？
windows系统docker装milvus向量数据库
Mooczx的博客
09-12 610
注意如出现错误说明端口被占用,需要改docker-compose。首先创建一个文件夹比如milvus,在创建如下文件。# 运行docker。
在Milvus中创建集合并在集合中插入数据，然后attu管理工具可以查看
keyboard专栏
09-10 643
创建索引：确保插入后创建索引，以支持查询和可视化。加载集合：在插入数据后，显式调用load()使数据可用。刷新 Attu：刷新或重启 Attu，确保它从 Milvus 获取最新的数据。确保正确查看集合：在 Attu 中确认是否选择了正确的集合。通过这些步骤，你应该能够在 Attu 中看到你插入的数据。
实现从 Milvus 中获取数据，并基于嵌入向量重新排序的功能
keyboard专栏
09-10 672
为了实现从 Milvus 中获取数据，并基于嵌入向量重新排序的功能，你可以参考以下步骤对原代码进行完善和修改。
Tcl lnit error: Can’t find a usable init.tcl in the following directories 问题解决
最新发布
梦想闹钟
09-15 190
实际研究后发现，其实py2exe已经把打包需要的lib放在dist文件夹下了，但是打包后的程序运行后却没有去lib下找，而是去找系统自带的环境变量里找，所以找不到。这个问题出现在我用py2exe打包了一个包含tkinter的图形化界面，在当前电脑上运行无问题，在移动到新电脑上后提示报错、getcwd用于获取当前工作目录绝对路径，在设置环境的变量的时候它用的是绝对路径-所以也导致了在当前电脑上能用而移动后不能用。解决方法是在你的程序里重新设置下环境变量，而且是用相对路径的形式。
Python办公自动化案例（二）：对比两个Excel数据内容并标出不同
衍生星球的博客
09-14 244
在数据处理和分析的日常工作中，我们经常需要比较两个Excel文件的差异。这可能是为了验证数据的一致性、检查数据的准确性，或者在版本控制中追踪更改。手动比较这些文件不仅耗时，而且容易出错。幸运的是，Python的openpyxl库提供了一种自动化这一过程的方法。
JUC从实战到源码：中断机制与API实现
qq_43843951的博客
09-12 1122
在Java中，线程中断是一种机制，用于通知线程应该停止当前正在执行的任务。中断通常用于协同线程之间的合作，以便让线程在适当的时候终止其工作，尤其是在长时间运行的任务或阻塞操作中。通过学了多线程以及synchronized的相关知识，接下来就到了学习线程中断知识。
LLM-RAG是什么
07-02
LLM-RAG是“Large Language Model with Retrieval Augmentation”（大型语言模型与检索增强）的缩写。这是一种结合了大型预训练语言模型（如通义千问）和基于检索的方法的技术。在传统的语言模型中，模型完全依赖于其自身的知识库来生成响应。而LLM-RAG则增强了这种能力，它会在生成文本之前从外部知识源（比如文本数据库或网络上的信息）检索相关信息，然后结合模型自身的理解进行生成，从而提供更准确、丰富的答案。 这种方法利用了外部信息的丰富性和模型生成的灵活性，使得AI系统能够处理更复杂的查询，并在需要时提供详细的支持。然而，由于涉及外部数据的检索，隐私和版权问题是需要注意的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

PhoenixAI8

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值