为什么人人都需要掌握向量数据库开发技术？

▼最近直播超级多，预约保你有收获

今晚直播：《向量数据库技术架构和企业级案例实战》

 —1—

向量数据库技术剖析

AGI 时代万物都可以向量化，向量化是 LLM 大模型以及 Agent 应用的基础。比如：昨天爆火的 Google 大模型 Gemini 1.0 原生支持的多模态，我认为在预训练的时候就是把文本、图片、音频、视频等多模态先进行 token 化，然后构建一维的“语言”序列，再进行向量化，实现了原生多模态的支持。

同样向量技术是向量数据库的核心，一个企业级的向量数据库，在功能维度需要具备 Embedding 嵌入生成向量数据、向量数据存储、向量数据相似度检索、提供 "CRUD” API 接口等，在性能维度需要提供分布式架构提供无缝的弹性伸缩功能以支持用户访问请求的高吞吐量和低延迟。在可观性维度需要提供自动化部署、立体监控、业务调试、业务测试、业务评估等功能。

 —2—

向量数据库如何选型

如果你需要快速构建原型系统并对性能有一定要求，Faiss 可能是一个好选择。

Faiss 是 Meta 开源的一个库，用于高效相似性搜索和密集向量聚类。它能处理任意大小的向量集合，甚至是无法全部装入内存的集合。Faiss 还包含了用于评估和参数调优的工具。Faiss 是用 C++ 编写的，但提供了完整的 Python/NumPy 接口。

Faiss 足够简单，性能似乎也足够快，也能够应付小规模的生产场景。当然，还可以通过量化、降维、使用 GPU 等方案进一步提升查询性能。

然而，尽管向量搜索库，比如 Faiss 提供了强大和高效的向量搜索功能，但在实际生产环境中，它们存在一些限制。Faiss 并没有提供处理数据的实时增删、缺乏多语言的支持，无法提供远程调用、不支持标量过滤、也不提供数据的持久化，可扩展性和容灾等问题的解决方案。

正是因为这些原因，向量数据库应运而生，为我们提供了一种更完整、更适合实际应用场景的解决方案。

向量数据库战场目前主要分为四个类别：

基于 PG、Clickhouse 等进行魔改或者插件化实现的向量数据库。这类解决方案以现有的关系数据库或列存数据库作为基础，通过修改或插件扩展的方式添加向量搜索功能，PG Vector是这类解决方案的代表产品。

基于传统倒排搜索添加稠密向量索引支持的向量数据库。这类解决方案以倒排索引搜索引擎作为基础，通过扩展索引机制以支持向量搜索，ElasticSearch是这类解决方案的代表产品。

基于向量检索库实现的轻量级向量数据库。这类解决方案以向量搜索库（如 Faiss）为核心，围绕其构建数据库功能。这些产品通常具有较小的体积和较高的运行效率，Chroma 是这类解决方案的代表产品。

基于原生向量设计的分布式向量云原生数据数据库。这类解决方案从零开始设计和实现向量数据库，整个系统从底层到顶层都针对向量搜索进行了优化，通常提供了更完整和高级的功能，包括分布式计算、容灾备份、数据持久化等，Zilliz Cloud/Milvus 是这类解决方案的代表产品。

不过，"Not All Vector Database are born equal"（并非所有向量数据库都生来平等）。在各类向量数据库中，每种解决方案都有其独特的优点和限制，并且它们各自适合于不同的应用场景。

在所有的向量数据库方案中，我个人对基于 PG、Clickhouse等进行魔改或者插件化实现的向量数据库（如 PG Vector）以及基于原生向量设计的分布式向量云原生数据数据库（例如 Zilliz Cloud/Milvus）这两种截然不同的解决方案特别看好。

还有更多选型落地场景，今晚20点直播中详细剖析，请同学们点击免费预约。

总之，掌握好向量数据库的选型和落地实现，对于 IT 人来说是一项非常重要的技能。

 —3—

基于向量数据库完成 RAG 业务实际工作

第一、基于向量数据库实现 RAG（Retrieval Augmented Generation）应用

RAG 是一种使用企业级私有和实时的数据用来增强 LLM 大模型能力的一种技术，由两个步骤构成：建立向量索引（Indexing）和检索生成（Retrieval and Generation）。

建立向量索引（Indexing）由加载外部知识（Load）、切分大文本为小的单元块（Split）、向量存储（Store）三步组成。

检索生成（Retrieval and Generation）由向量知识库检索最相似的 TopK 记录（Retrieve）和 LLM 大模型生成结果（Generate）两步构成。

总体来讲，分为离线建立向量数据部分和在线相似度增强和检索部分，如下图所示。

第二、使用 OpenAI Assistants 实现 RAG 应用

乍一看，OpenAI Assistants 自带的检索功能十分强大，但如果对行业足够了解，便会发现其仍存在诸多限制。OpenAI Assistants 检索严格限制了数据规模，且缺乏定制化的能力。因此，搭建高效的应用还需要使用自定义的检索器。

所幸，OpenAI 的函数调用能力允许开发者无缝接入自定义的检索器，从而打破对于知识库数据量的限制，更好地适应多样化的用例。

我们可以使用 Milvus 实现 OpenAI Assistants 检索定制化。

Milvus 是一款高度灵活、可扩展的开源向量数据库，毫秒内即可实现十亿级别向量的存储和检索。由于优秀的扩展性和超低的查询延时，Milvus 是定制 OpenAI Assistants 检索的首选，下图为 OpenAI Assistant 函数调用通用的工作原理。

更多落地实现细节，今晚20点的直播中详细剖析，请同学们点击免费预约。

总之，掌握好基于向量数据库的 RAG 业务应用落地实现，对于 IT 人来说是一项非常重要的技能

—3—

干货+抽奖 向量数据库案例实战直播

为了帮助同学们掌握好 向量数据库技术架构和企业级案例实战，今晚20点，我和陈东老师会开一场直播和同学们深度聊聊：

    第一、Milvus 向量数据总体架构设计及关键技术剖析 

    第二、基于 Milvus 实现推荐系统视频高效推荐 

    第三、向量数据库线上运维遇到关键问题定位和分析 

请同学点击下方按钮预约直播，咱们今晚20点直播不见不散！

今晚直播：《向量数据库技术架构和企业级案例实战》

END