《向量数据库指南》——什么是比较 Embedding？

最新推荐文章于 2025-03-07 15:53:01 发布
最新推荐文章于 2025-03-07 15:53:01 发布
阅读量642 收藏
点赞数
分类专栏： 《向量数据库指南》 文章标签： 向量数据库 AI模型 魔搭社区 Milvus ModaHub Zilliz Cloud MIlvus Cloud
大禹智库
本文链接：https://blog.csdn.net/qinglingye/article/details/131624713
版权
本文通过word2vec模型探讨如何比较非结构化数据的Embedding，展示语义相似和不相似的向量表示。通过Marlon Brando、国王与王后以及Apple的例子，解释了如何进行向量加减以揭示潜在的语义变化，并介绍了近邻搜索和距离度量的概念。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

比较 Embedding

准备工作

示例 0：Marlon Brando

示例 1：国王与王后

示例 2：Apple，水果还是公司

欢迎回到向量数据库 101 系列教程。

之前的教程中，我们介绍了非结构化数据、向量数据库和 Milvus——全球最受欢迎的开源向量数据库。我们还简单介绍了 Embedding 的相关概念，它代表高维向量，可以用作非结构化数据的语义表示，彼此临近的 Embedding 代表语义上是相似的。

 

本教程中，我们将在这些知识的基础上，通过单词 Embedding 的例子，看看语义相似的非结构化数据是如何相邻的，而不相似的非结构化数据是如何相互“远离”的。这属于近邻搜索的高层次概述，是一个计算问题，涉及到根据统一的距离度量来寻找与查询向量最接近的向量。我们会讨论一些主流的近邻搜索方法（包括我最喜欢的 ANNOY），以及常用的距离度量。

我们开始吧。

比较 Embedding

我们来看下几个词的 Embedding 向量的示例。下面例子中，我们将使用 word2vec，它这是一个古老的模型，使用

了解本专栏 订阅专栏 解锁全文 超级会员免费看
《向量数据库指南》——快速了解 Embedding和处理非结构化数据教程
实战AI智能体
07-12 836
结构化数据和半结构化数据是仅限于数字、字符串或时间类型的数据。通过现代机器学习，非结构化数据可以被表示为数值的高维向量。代表非结构化数据的数值向量，更多的被称为 Embedding 向量，可以用于代表非结构化数据的语义内容。另外，结构化数据和半结构化数据在语义上是不变的，即内容本身等同于语义。搜索和分析非结构化数据是通过 ANN 搜索完成的，这个过程本身是概率性的。另外，基于结构化数据和半结构化数据的搜索和查询是具有确定性的。
《Milvus Cloud向量数据库指南》——向量数据库性价比大比拼：谁才是性能之王？
实战AI智能体
08-01 244
在分析这份向量数据库（Vector Databases）的性价比排名表格时，我们需要从多个维度深入探讨，包括但不限于硬件配置、价格/性能比（QP$，即每百万次查询所花费的价格）、数据集大小、查询类型（无标量过滤、低标量过滤、高标量过滤）以及不同服务提供商之间的比较。以下是一个详细的分析，旨在揭示这些数据库在不同场景下的优势和劣势，以及它们如何影响整体性价比。
【腾讯云云上实验室】——向量数据库——Embedding
红目香薰
11-18 5149
腾讯向量数据库——Embedding 一、创建向量数据库以及创建集合 二、Python链接向量数据库 三、向集合插入文本数据 四、查询检索 五、修改数据
大模型工程师学习日记（六）：Embedding 与向量数据库
qq_75269600的博客
03-02 860
通过这种层次化的搜索过程，HNSW 能够快速缩小搜索范围，在大规模数据中高效找到近似最近邻。
搭建 Embedding 向量数据库，手把手教你创造自己的私人智能助理
python1234567_的博客
09-02 1486
上篇文章讲解了 Embedding 的一些基本信息并使用 OpenAI 的 Embedding API 进行演示。上篇文章的案例是每次都重新构建向量数据，虽然 Embedding 方法调用并不算贵，若是私有数据较大，每次都将私有数据转换成对应的向量数据也是一个大开销，这时候就需要的存在。
Embedding及其数据库
m0_46311043的博客
08-29 1173
我们知道，向量数据库是指用来在进行LLM问答时进行上下文检索的，一个好的向量数据库应该可以将LLM所需的信息提取出来精准匹配，但是由于算法的缺点，embedding数据库通过LLM的向量匹配是比较困难进行提取的，各种各样的距离算法也是效果各不相同，因此后面出现了各式各样的多次RAG来提高准确度，在实际应用场景中，还是有很多需要精度而对时间要求不那么高的场景的。因为，探究RAG的原理及其背后技术成为我们改进的基础。首先，
【AI大模型】Embedding模型解析 文本向量知识库的构建和相似度检索
大数据小禅的博客
05-23 2241
在大模型中，"embedding"指的是将某种类型的输入数据（如文本、图像、声音等）转换成一个稠密的数值向量的过程。这些向量通常包含较多维度，每一个维度代表输入数据的某种抽象特征或属性。Embedding 的目的是将实际的输入转化为一种格式，使得计算机能够更有效地处理和学习文本Embedding在自然语言处理（NLP）中，文本embedding是一个常见的概念。是将文字或短语转换成数值向量的过程。这些向量捕捉了单词的语义特征，例如意义、上下文关系等。
《向量数据库指南》——万物Embedding，解锁非结构化数据新纪元
实战AI智能体
12-05 1447
随着非结构化数据的不断增加和人工智能技术的不断发展，向量数据库已经成为了一个不可忽视的重要领域。而Mlivus Cloud作为向量数据库领域的佼佼者，不仅具有高效存储、快速检索和易于扩展等优势，还能够满足各种复杂的应用场景需求。因此，我相信在未来的日子里，Mlivus Cloud将会成为越来越多企业和个人的首选数据库系统。最后，我想说的是，如果你对向量数据库感兴趣或者正在寻找一款高效的向量数据库系统，那么不妨试试Mlivus Cloud吧！同时，别忘了购买一本《向量数据库指南》哦！
《向量数据库指南》——text-embedding-3-large：解锁语言处理新境界
实战AI智能体
10-23 1090
这本书啊，可是我和我的团队花了大量时间和精力编写的，里面详细介绍了向量数据库的原理、技术、方法和应用场景，还包括了很多实战案例和干货内容。而3,072维的向量，显然比那些低维度的向量包含的信息更加丰富、更加准确。嘿，各位向量数据库和AI领域的朋友们，我是你们的老朋友王帅旭，大禹智库的向量数据库高级研究员，也是《向量数据库指南》的作者。再比如高级推荐系统，你也可以用这个模型来分析用户的喜好和行为，把用户的信息和推荐对象的信息都转换成向量，然后计算它们之间的相似度，从而推荐最适合用户的产品或服务。
《向量数据库指南》——text-embedding-3-large与Mlivus Cloud打造语义搜索新纪元
实战AI智能体
10-27 1030
首先，让我们来了解一下向量数据库和Mlivus Cloud的基本概念。向量数据库是一种专门用于存储和查询向量数据的数据库系统，与传统的关系型数据库不同，它利用向量间的相似度来计算数据之间的关联程度，从而实现了更为精准的语义搜索。而Mlivus Cloud，则是向量数据库领域的佼佼者，它提供了高效、稳定、可扩展的向量数据存储和查询服务，为企业和个人用户带来了极大的便利。在这里，我强烈推荐大家阅读我的著作《向量数据库指南》。
《向量数据库指南》——深入探索Mllvus Cloud Embedding向量的概念与应用
实战AI智能体
07-22 588
在人工智能与自然语言处理（NLP）的广阔领域中，Embedding向量作为一种高效且强大的数据表示方式，正逐步成为连接现实世界与机器理解之间的桥梁。这些向量不仅深刻改变了我们处理文本、图像乃至更广泛类型数据的方式，还极大地推动了信息检索、推荐系统、知识图谱等多个领域的进步。本文旨在全面回顾Embedding向量的基本概念，深入探讨其三种主要类型——传统稀疏向量、稠密向量及“学习到的”稀疏向量的特性与应用，并简要介绍如何利用现代向量数据库如Milvus等实现高效的向量搜索与混合搜索策略。
embedding和向量数据库(pinecone)
Climbman的博客
07-13 1545
embedding和向量数据库(pinecone)玩了这么久的gpt，大家多少都会发现使用过程中有一些尴尬的点：LLM的训练数据是有ddl的，无法获取到最新的一些信息LLM不知道答案，开始放飞自我，出现hallucination想应用化（客服什么的），但某些数据是不通用的，需要自己投喂如果是一个普通用户在使用，当然是关系不大。但是如果是想将其集成然后应用化，那么这些case总是不靠谱的。微调模型（fine-tuning）成本太大，效果不一定理想。
【记录一下学习】Embedding 与向量数据库
风信子的博客
03-07 1554
Qdrant（读作：quadrant /'kwɑdrənt/ n. 象限；象限仪；四分之一圆）是一个向量相似度搜索引擎。它提供了一个生产就绪的服务，具有方便的 API 来存储、搜索和管理点 - 带有附加载荷的向量。专门支持扩展过滤功能，使其对各种神经网络或基于语义的匹配、分面搜索和其他应用非常有用。以下展示了如何使用与向量数据库相关的功能。有各种运行的模式，取决于所选择的模式，会有一些细微的差异。选项包括：本地模式，无需服务器Qdrant 云请参阅安装说明。
基于Embedding模型的向量数据库与信息检索技术
喜欢猪猪
12-20 1347
在信息爆炸的时代，如何从海量数据中高效检索出有价值的信息成为了一个重要的挑战。传统的基于关键词的检索方法已经难以满足日益增长的数据量和复杂的信息需求。近年来，随着深度学习技术的发展，Embedding模型和向量数据库逐渐成为了信息检索领域的新宠。本文旨在介绍如何使用Embedding模型和向量数据库进行高效的信息检索，通过具体的技术实现和代码示例，帮助读者掌握这一前沿技术。Embedding模型的工作原理是通过神经网络将高维稀疏的数据映射到低维稠密的向量空间中。
一文全面了解向量数据库
StackFlow的博客
03-16 3877
首先，我们需要理解什么是向量？向量是基于不同特征或属性来描述对象的数据表示。每个向量代表一个单独的数据点，例如一个词或一张图片，由描述其许多特性的值的集合组成。这些变量有时被称为“特征”或“维度”。例如，一张图片可以表示为像素值的向量，整个句子也可以表示为单词嵌入的向量。图像向量，通过深度学习模型提取的图像特征向量，这些特征向量捕捉了图像的重要信息，如颜色、形状、纹理等，可以用于图像识别、检索等任务；
向量数据库｜一文全面了解向量数据库的基本概念、原理、算法、选型
2401_85328934的博客
07-17 1186
本文主要介绍了向量数据库的原理和实现，包括向量数据库的基本概念、相似性搜索算法、相似性测量算法、过滤算法和向量数据库的选型等等。向量数据库是崭新的领域，目前大部分向量数据库公司的估值乘着 AI 和 GPT 的东风从而飞速的增长，但是在实际的业务场景中，目前向量数据库的应用场景还比较少，抛开浮躁的外衣，向量数据库的应用场景还需要开发者们和业务专家们去挖掘。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
【文本特征表征（1）】什么是embedding（把物体编码为一个低维稠密向量）pytorch中nn.Embedding原理及使用，大模型的LMAS.Embedding原理及使用
热门推荐
Hali_Botebie的博客
06-15 1万+
使embedding空前流行的“word2vec”到了深度学习时代，我们一定会首先想到 2013 年的 Word2Vec——没错，句子是由词构成的，有了词向量，句子向量自然而然呼之欲出了。直觉看，直接对每个词的向量拼接、求和、逐元素相乘、取平均值或最大值，得到的向量都可以表示为句子向量。当然，这里面也有一些花样，比如加权重求和：权重可以根据词性、句法结构等设定一个固定值，然后对每个位置的词向量乘权重再求和；权重也可以根据输入向量来，输出向量的_每个元素_都根据输入元素向量进行加权求和。
向量数据库实战详解
06-09 6776
以NLP的相似问题场景为例。当我们将一个问题通过模型转化成了embedding向量，我们想要找到与这个问题相似的问题，也就是想要找到与embedding向量相似的向量。基本的做法之一，就是遍历备选向量与embedding向量做余弦相似度计算，然后按照计算出的余弦相似度排序，找出最相似的top N。基于向量检索的目的，向量数据库应运而生。向量数据库提供了一种高性能、高可用的查找方式。接下来，以Annoy和Milvus两种向量数据库的实战为例详解。...
向量数据库指南
最新发布
03-09
<think>嗯，用户之前问过“钧瓷婆罗门”，现在又转向“向量数据库指南”。看起来他们可能是在做某个项目或者学习过程中遇到了不同的主题。首先，我需要确定用户的需求是什么。他们可能想了解向量数据库的基本概念、应用场景，或者如何选择和使用这类数据库。 接下来，我需要考虑用户可能的背景。之前的提问涉及中国传统文化，现在转向技术性的数据库，这可能意味着用户的学习或工作领域跨度较大，或者他们正在处理一个跨学科的项目。比如，他们可能在做数据分析相关的项目，需要处理高维数据，比如图像、文本的嵌入向量，所以需要了解向量数据库。 用户可能没有明确说出他们的具体需求，比如他们是否需要比较不同的向量数据库，或者想了解如何实现一个向量数据库系统。这时候，回答需要覆盖基础知识和实用指南，同时提供资源推荐，以满足不同层次的需求。 另外，用户可能对向量数据库的优势和传统数据库的区别不太清楚，需要解释清楚为什么向量数据库在处理相似性搜索时更高效。同时，他们可能关心实际应用案例，比如推荐系统、自然语言处理中的应用，这些都需要具体说明。 还要注意用户可能存在的误区，比如认为所有数据库都适合高维数据，或者对近似最近邻算法（ANN）不太了解，需要简明扼要地解释这些概念，避免使用过多专业术语，但又足够准确。 最后，考虑到用户可能需要进一步的学习资源，提供一些开源项目、书籍和在线教程的链接会很有帮助。这样用户可以根据自己的需求深入学习和实践。</think>以下是关于**向量数据库**的详细介绍与实用指南，内容分点清晰，便于理解： --- ### 一、**向量数据库的定义** - **核心概念**： 向量数据库（Vector Database）是专门存储、检索**高维向量数据**的数据库系统，适用于人工智能场景（如文本、图像、音频的嵌入向量）。 $$ \text{向量数据} = [v_1, v_2, \dots, v_n] \in \mathbb{R}^n \quad (\text{例：BERT输出为768维向量}) $$ - **与传统数据库差异**： | **传统数据库** | **向量数据库** | |----------------|----------------| | 精确匹配（SQL查询） | 相似性搜索（如余弦相似度） | | 行/列结构化存储 | 高维向量非结构化存储 | | 适合数值/文本 | 适合AI生成的数据 | --- ### 二、**核心功能与优势** 1. **高效相似性搜索** - 支持**近似最近邻（ANN）算法**，快速在海量数据中找到相似向量。 - 算法示例： - 树型结构（KD-Tree, Ball-Tree） - 量化方法（PQ, LSH） - 图索引（HNSW, NSG） 2. **可扩展性** - 支持分布式架构，适应十亿级向量规模（如Elasticsearch + Faiss扩展）。 3. **多模态支持** - 统一处理文本、图像、视频等不同模态的向量化数据。 --- ### 三、**主流向量数据库对比** | 名称 | 特点 | 适用场景 | |------|------|----------| | **Milvus** | 开源、云原生，支持多种索引算法 | 大规模AI应用 | | **Pinecone** | 全托管服务，低延迟 | 企业级SaaS需求 | | **Weaviate** | 内置NLP模型，支持语义检索 | 知识图谱、语义搜索 | | **Qdrant** | Rust开发，高性能 | 实时推荐系统 | | **Faiss**（库） | Meta开源，需结合数据库使用 | 研究与小规模部署 | --- ### 四、**典型应用场景** 1. **推荐系统** - 通过用户行为向量匹配相似商品（例：电商平台）。 2. **自然语言处理** - 语义搜索：将问题向量与知识库匹配（例：ChatGPT的长期记忆）。 3. **图像/视频检索** - 以图搜图：提取特征向量比对（例：Google Images）。 4. **异常检测** - 对比新数据与历史正常数据向量的偏离程度。 --- ### 五、**使用指南** #### 步骤1：数据向量化 - 使用预训练模型（如ResNet-50提取图像特征，Sentence-BERT生成文本嵌入）。 ```python from sentence_transformers import SentenceTransformer model = SentenceTransformer('paraphrase-MiniLM-L6-v2') vectors = model.encode(["向量数据库指南", "什么是ANN算法？"]) ``` #### 步骤2：选择数据库与索引 - 根据数据规模选择索引（例：HNSW适用于高召回率场景）。 ```python # 使用Milvus创建索引 from pymilvus import Collection, FieldSchema, DataType collection.create_index(field_name="embedding", index_params={ "index_type": "HNSW", "metric_type": "L2", "params": {"M": 16, "efConstruction": 200} }) ``` #### 步骤3：查询优化 - **权衡精度与速度**：调整`efSearch`参数（值越大精度越高，速度越慢）。 - **过滤条件**：结合元数据筛选（如时间范围+向量相似度）。 --- ### 六、**挑战与解决方案** | 挑战 | 解决方案 | |------|----------| | 高维数据计算成本高 | 使用降维技术（PCA, UMAP） | | 数据更新频繁 | 选择支持动态更新的数据库（如Milvus 2.0） | | 多租户隔离 | 云服务分片（Pinecone专用Pod） | --- ### 七、**学习资源推荐** 1. **开源项目** - [Milvus文档](https://milvus.io/docs) - [Faiss教程](https://github.com/facebookresearch/faiss/wiki) 2. **书籍** - 《Vector Databases: A Technical Introduction》（O'Reilly） 3. **在线课程** - Coursera《Approximate Nearest Neighbor Search with Vector Databases》 --- 如需进一步探讨具体工具或场景，可提供更多上下文！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大禹智库

大禹智库——河南第一民间智库

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值