​RAG与LLM原理及实践（7）--- Chroma query应用层策略及实现原理

已于 2024-07-18 14:20:18 修改
阅读量1k 收藏 17
点赞数 35
分类专栏： RAG Milvus Chroma 源码及实践 文章标签： 机器学习 人工智能 Chroma
于 2024-07-01 15:25:50 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/talentyiyy/article/details/140099911
版权

目录

背景

Similarity & Redundancy

相似度 (Similarity)

冗余度 (Redundancy)

区别

Chroma中的 query API及代码逻辑

similarity 方式

similarity_search

代码原理

with_relevance_scores

MMR方式

实现方式

源码分析

背景

Chroma query 底层查询的 query 思想是相同的，甚至在vector db 的世界中，都大同小异。如果你有看前面写的   RAG与LLM原理及实践（5）--- Chroma query 源码分析

应该比较清楚query的运作原理，说直白就是在memory或是disk中通过暴力查询比较与HNSW算法（NSW算法的变种，分层可导航小世界）进行分析得到。应该说在所有db 的vector query 中上层的基本逻辑都大同小异，如果你后面看了Milvus，再回来看Chroma，虽然说底层保存逻辑及顶层设计不一样，但是就query 的应用逻辑而言，大同小异。

其中向量比较的几种方式，如果你看了前面写的   RAG与LLM原理及实践（4）--- 语义相似度距离衡量的三种方式chroma示例 应该也比较清楚，就是cosine，l2，ip 几种比较方式。

这是底层运作的基本思想。但是站在应用层的角度，query可以有所不同。下面的内容聚焦在站在应用层的角度，从chroma源码进行分析，彻底理解 query 在应用层上的调

了解本专栏 订阅专栏 解锁全文 超级会员免费看
PhoenixAI8
关注
  • 35
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
RAG与LLM原理及实践（5）--- Chroma query 源码分析
talentyiyy的专栏
06-25 1080
揭开 Chroma query 的实现内幕，如果你之前没有自己看过，读完后，你的内功将得到增强。做到以不变应万变，力求万事成竹于胸。 Chroma query 读完后，你将对 vector db 的 query 逻辑有深刻的认识。世间万物本质大都大同小异，你或许有一种 独上高楼，望尽天涯路 的感觉
基于spring-ai框架实现的RAG增强检索，及ai对话demo后端服务源码
07-06
基于spring-ai框架实现的RAG增强检索，及ai对话demo后端服务源码。 Demo中演示了，根据本地客户宠物的洗澡剪毛记录，和剪毛和洗澡间隔规则，询问ai,哪些宠物应该剪毛或洗澡了。 运行前准备工作： 1.Java运行环境：...
AI原生嵌入式矢量模型数据库ChromaDB-部署与使用指南
Spaceack的专栏
05-25 3774
存储嵌入类型数据（embeddings）和其元数据嵌入（embed）文档和查询对嵌入类型的检索对用户的简单性，并保障开发效率同时拥有较好的性能Chroma 作为服务器运行，同时提供客户端的SDK（支持Java, Go，Python, Rust等多种语言）。通过这次学习，了解到了使用ChromeDB的基本方法，真是太好啦。最后 欢迎关注 公-众-号【编程之舞】,获取更多技术资源。
ChromaDB教程
wangning0714的博客
04-22 4288
向量存储是专门为有效地存储和检索向量嵌入而设计的数据库。之所以需要它们，是因为像 SQL 这样的传统数据库没有针对存储和查询大型向量数据进行优化。嵌入在高维空间中以数字向量格式表示数据（通常是非结构化数据，如文本）。传统的关系数据库不太适合存储和搜索这些向量表示。向量存储可以使用相似性算法对相似的向量进行索引和快速搜索。它允许应用程序在给定目标向量查询的情况下查找相关向量。在个性化聊天机器人的情况下，用户输入生成式 AI 模型的提示。然后，该模型使用相似性搜索算法在文档集合中搜索相似文本。
Chroma数据库
weixin_46515328的博客
07-21 1911
当使用query_texts时，Chroma会使用embedding_function对query_texts进行嵌入，然后使用嵌入后的数据进行查询。该数据库对环境要求较高，推荐python3.10版本进行安装，由于使用了一些新技术，该数据库的部署可能会出现一些版本兼容性问题。Chroma还支持upsert操作，可以更新现有的项目或者添加不存在的项目。特点：开源，本地部署，基于sqlite，因此无需配置数据库连接信息。collection中的任何内容都可以通过update方法进行更新。
Chroma向量数据库
新缸中之脑
05-10 9742
嵌入向量（vector embedding）是表示任何类型数据的 A.I 原生方式，使它们非常适合与各种 A.I 驱动的工具和算法一起使用。它们可以表示文本、图像，很快还可以表示音频和视频。有许多创建嵌入的选项，无论是在本地使用已安装的库，还是通过调用 API。推荐：用快速搭建可编程3D场景。Chroma 是一个用于构建带有嵌入向量的 AI 应用程序的数据库。它内置了入门所需的一切，并可在你的机器上运行。托管版本即将推出！
LangChain入门(四)-构建本地知识库问答机器人
热门推荐
Good Luck
05-04 2万+
因为是临时存入，所以当我们上面的代码执行完成后，上面的向量化后的数据将会丢失。如果想下次使用，那么就还需要再计算一次embeddings，这肯定不是我们想要的。其中hnswlib安装不了，去一下网站下载源码解压后，将hnswlib文件夹放在了项目的\Lib\site-packages文件夹中。上面的案例中我们只是将embeddings临时存进了Chroma，只需多加一个路径参数就可以实现持久化。在项目中新建一个data文件夹，里面放一个doc.txt，内容我摘抄一段朱炫大师兄的年少荒唐中的文章。
RAG部署-使用TensorRT-LLM在Windows上部署检索增强生成聊天机器人RAG-优质大模型部署项目实战.zip
04-09
在本项目中，我们将深入探讨如何在Windows操作系统上利用TensorRT-LLM（Longformer Language Model）技术部署RAG...通过这个实践，开发者不仅能掌握RAG模型的原理和应用，还能深入了解TensorRT在实际项目中的使用技巧。
LLM-RAG-WEB 大模型本地知识库召回
03-01
https://github.com/lonngxiang/LLM-RAG-WEB
【4月组队学习-llm-universe笔记】 0基础小白 RAG应用开发实践笔记
05-22
附LangChain自定义Embedding封装讲解
LLM之RAG理论（二）| RAG综述论文详解
wshzd的博客
12-24 2748
论文地址：https://arxiv.org/pdf/2312.10997.pdf 大型语言模型（LLMs）展示了强大的能力，但在实际应用中仍面临挑战，如幻觉现象、知识更新缓慢，以及在回答中缺乏透明度。检索增强生成（RAG）指的是在使用LLMs回答问题之前，从外部知识库中检索相关信息。RAG已被证明能显著提高答案的准确性，减少模型的幻觉现象，特别是对于知识密集型任务。通过引用来源，用户可以验证答案的准确性，并增加对模型输出的信任。它还促进了知识更新和特定领域知识的引入。RAG有效地结合
一文搞懂RAG：从理论到实践
weixin_42132035的博客
08-06 1243
RAG（Retrieval-Augmented Generation）是一种将检索机制与生成模型结合的方法。它的核心思想是，在生成文本时，通过检索相关的信息来增强生成的内容。这种方式使得模型不仅能够依赖于其训练中学习到的知识，还能利用外部知识库中的最新信息。
使用知识图谱增强的RAG查询引擎
ppoojjj的博客
07-27 397
在当今的人工智能技术中，知识图谱（Knowledge Graph）成为了一种非常有用的工具，可以帮助我们在信息检索和自然语言处理任务中获得更好的结果。本文将介绍如何使用知识图谱增强的RAG（Retrieve and Generate）查询引擎，并演示如何在Python中实现这一功能。
一篇RAG全栈技术最新综述
xx_nm98的博客
07-24 803
检索增强生成（RAG）的出现，利用外部知识数据库来增强LLMs，弥补了LLMs的幻觉问题、知识更新等问题：系统地介绍了RAG的每个组成部分，特别是和重要技术，以及带有教程代码的检索融合技术。展示了不同的，包括。讨论了RAG在下游中的应用。）、检索融合（Retrieval Fusions）、
用 ChatGPT 采用自有数据集训练问答机器人
深度觉醒
04-08 7775
前言最近 LLM 模型很火，chatGPT 涵盖的知识范围之广，令人叹为观止。然而码农肯定不能满足于现有的知识库，要扩展自有数据才能发挥其更大的实用价值。一般来说，深度学习模型大多采用 finetune 的方式来增加训练数据，但 LLM 模型太大了，训练成本过高。无论是离线或是在线训练样本，短时间只有 OpenAI 可为。随着通用大模型的兴起，另外一种被称为 ”前导词注入“ 的提示工程（promp...
机器学习带来的新见解挑战星系形成理论
weixin_41446370的博客
08-18 573
最近的研究发现，处于高密度环境中的星系往往比孤立的星系大得多，这对现有的星系形成理论提出了挑战。这一发现得益于机器学习和来自数百万个星系的大量数据。这些发现提出了关于暗物质和星系合并在塑造宇宙中的作用的新问题。
机器学习（3）-- 一元线性回归
最新发布
m0_74896766的博客
08-18 647
本篇介绍了如何实现一元线性回归，其中需要注意的是，对于相关系数过小的数据，我们要进行选择调整。
机器学习第五十二周周报 Distribution Shift of GNN
weixin_44162879的博客
08-18 653
本周阅读了题为PM2.5 forecasting under distribution shift: A graph learning approach的论文。这项工作提出了一个新的PM2.5预测数据集，其特征是随时间的分布变化。使用这个新的基准，在两种数据分割设置(按时间分割和随机分割)下评估了一组基于图和非基于图的机器学习模型。第一种设置提出了分布移位的挑战，而第二种设置旨在消除分布移位的影响。实验结果表明，基于图的机器学习模型比非基于图的模型更容易受到分布变化的影响。
LLM-RAG是什么
07-02
LLM-RAG是“Large Language Model with Retrieval Augmentation”（大型语言模型与检索增强）的缩写。这是一种结合了大型预训练语言模型（如通义千问）和基于检索的方法的技术。在传统的语言模型中，模型完全依赖于其自身的知识库来生成响应。而LLM-RAG则增强了这种能力，它会在生成文本之前从外部知识源（比如文本数据库或网络上的信息）检索相关信息，然后结合模型自身的理解进行生成，从而提供更准确、丰富的答案。 这种方法利用了外部信息的丰富性和模型生成的灵活性，使得AI系统能够处理更复杂的查询，并在需要时提供详细的支持。然而，由于涉及外部数据的检索，隐私和版权问题是需要注意的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值