​RAG与LLM原理及实践（8）--- Chroma 应用场景及限制

目录

前言

Chroma场景及限制

机制层

实现层

如何应对图片及video的query

---

前言

通过前面几节的介绍，你应该对Chroma的运作原理有相当透彻的理解。Chroma的设计正如之前描述的：

Chroma提供的工具：

存储文档数据和它们的元数据：store embeddings and their metadata
嵌入：embed documents and queries
搜索： search embeddings
Chroma在设计上优先考虑：

足够简单并且提升开发者效率：simplicity and developer productivity
搜索之上再分析：analysis on top of search
追求快（性能）： it also happens to be very quick

它非常适合在属于自己的垂直LLM RAG库上运行。当你的应用主要集中在LLM领域，且要求最好能本地快速部署，又需要兼顾查询效率时，Chroma 绝对是你的local LLM RAG首选。但不得不说，任何事物都有他的限制。说直白点，还是应用场景。如果你的应用或存储信息维度超过了 文本，元数据，url 这些内容，逐步向图片，甚至影音过渡时，Chroma 就显得有些力不从心。我会从代码逻辑及整体思路上给出分析。但熟悉Chroma 的朋友都知道，他有user  交互模块并不断update，毕竟Chroma vector DB 的API 接口适配了目前所有vector DB 共同遵循的接口，未来根据适用场景，包含client 模式，server模式，local 模式，同样会衍生出其