《向量数据库指南》——什么是比较 Embedding？

最新推荐文章于 2024-10-27 09:00:00 发布
最新推荐文章于 2024-10-27 09:00:00 发布
阅读量565 收藏
点赞数
分类专栏： 《向量数据库指南》 文章标签： 向量数据库 AI模型 魔搭社区 Milvus ModaHub Zilliz Cloud MIlvus Cloud
大禹智库
本文链接：https://blog.csdn.net/qinglingye/article/details/131624713
版权
本文通过word2vec模型探讨如何比较非结构化数据的Embedding，展示语义相似和不相似的向量表示。通过Marlon Brando、国王与王后以及Apple的例子，解释了如何进行向量加减以揭示潜在的语义变化，并介绍了近邻搜索和距离度量的概念。
摘要由CSDN通过智能技术生成

目录

比较 Embedding

准备工作

示例 0：Marlon Brando

示例 1：国王与王后

示例 2：Apple，水果还是公司

欢迎回到向量数据库 101 系列教程。

之前的教程中，我们介绍了非结构化数据、向量数据库和 Milvus——全球最受欢迎的开源向量数据库。我们还简单介绍了 Embedding 的相关概念，它代表高维向量，可以用作非结构化数据的语义表示，彼此临近的 Embedding 代表语义上是相似的。

 

本教程中，我们将在这些知识的基础上，通过单词 Embedding 的例子，看看语义相似的非结构化数据是如何相邻的，而不相似的非结构化数据是如何相互“远离”的。这属于近邻搜索的高层次概述，是一个计算问题，涉及到根据统一的距离度量来寻找与查询向量最接近的向量。我们会讨论一些主流的近邻搜索方法（包括我最喜欢的 ANNOY），以及常用的距离度量。

我们开始吧。

比较 Embedding

我们来看下几个词的 Embedding 向量的示例。下面例子中，我们将使用 word2vec，它这是一个古老的模型，使用

了解本专栏 订阅专栏 解锁全文 超级会员免费看
大禹智库
关注
专栏目录
订阅专栏
《向量数据库指南》——快速了解 Embedding和处理非结构化数据教程
实战AI智能体
07-12 724
结构化数据和半结构化数据是仅限于数字、字符串或时间类型的数据。通过现代机器学习，非结构化数据可以被表示为数值的高维向量。代表非结构化数据的数值向量，更多的被称为 Embedding 向量，可以用于代表非结构化数据的语义内容。另外，结构化数据和半结构化数据在语义上是不变的，即内容本身等同于语义。搜索和分析非结构化数据是通过 ANN 搜索完成的，这个过程本身是概率性的。另外，基于结构化数据和半结构化数据的搜索和查询是具有确定性的。
《向量数据库指南》——深入探索Mllvus Cloud Embedding向量的概念与应用
实战AI智能体
07-22 539
在人工智能与自然语言处理（NLP）的广阔领域中，Embedding向量作为一种高效且强大的数据表示方式，正逐步成为连接现实世界与机器理解之间的桥梁。这些向量不仅深刻改变了我们处理文本、图像乃至更广泛类型数据的方式，还极大地推动了信息检索、推荐系统、知识图谱等多个领域的进步。本文旨在全面回顾Embedding向量的基本概念，深入探讨其三种主要类型——传统稀疏向量、稠密向量及“学习到的”稀疏向量的特性与应用，并简要介绍如何利用现代向量数据库如Milvus等实现高效的向量搜索与混合搜索策略。
【腾讯云云上实验室】——向量数据库——Embedding
红目香薰
11-18 4382
腾讯向量数据库——Embedding 一、创建向量数据库以及创建集合 二、Python链接向量数据库 三、向集合插入文本数据 四、查询检索 五、修改数据
搭建 Embedding 向量数据库，手把手教你创造自己的私人智能助理
python1234567_的博客
09-02 864
上篇文章讲解了 Embedding 的一些基本信息并使用 OpenAI 的 Embedding API 进行演示。上篇文章的案例是每次都重新构建向量数据，虽然 Embedding 方法调用并不算贵，若是私有数据较大，每次都将私有数据转换成对应的向量数据也是一个大开销，这时候就需要的存在。
【AI大模型】Embedding模型解析 文本向量知识库的构建和相似度检索
大数据小禅的博客
05-23 2008
在大模型中，"embedding"指的是将某种类型的输入数据（如文本、图像、声音等）转换成一个稠密的数值向量的过程。这些向量通常包含较多维度，每一个维度代表输入数据的某种抽象特征或属性。Embedding 的目的是将实际的输入转化为一种格式，使得计算机能够更有效地处理和学习文本Embedding在自然语言处理（NLP）中，文本embedding是一个常见的概念。是将文字或短语转换成数值向量的过程。这些向量捕捉了单词的语义特征，例如意义、上下文关系等。
《向量数据库指南》——text-embedding-3-large：解锁语言处理新境界
实战AI智能体
10-23 733
这本书啊，可是我和我的团队花了大量时间和精力编写的，里面详细介绍了向量数据库的原理、技术、方法和应用场景，还包括了很多实战案例和干货内容。而3,072维的向量，显然比那些低维度的向量包含的信息更加丰富、更加准确。嘿，各位向量数据库和AI领域的朋友们，我是你们的老朋友王帅旭，大禹智库的向量数据库高级研究员，也是《向量数据库指南》的作者。再比如高级推荐系统，你也可以用这个模型来分析用户的喜好和行为，把用户的信息和推荐对象的信息都转换成向量，然后计算它们之间的相似度，从而推荐最适合用户的产品或服务。
《向量数据库指南》——text-embedding-3-large与Mlivus Cloud打造语义搜索新纪元
最新发布
实战AI智能体
10-27 890
首先，让我们来了解一下向量数据库和Mlivus Cloud的基本概念。向量数据库是一种专门用于存储和查询向量数据的数据库系统，与传统的关系型数据库不同，它利用向量间的相似度来计算数据之间的关联程度，从而实现了更为精准的语义搜索。而Mlivus Cloud，则是向量数据库领域的佼佼者，它提供了高效、稳定、可扩展的向量数据存储和查询服务，为企业和个人用户带来了极大的便利。在这里，我强烈推荐大家阅读我的著作《向量数据库指南》。
《Milvus Cloud向量数据库指南》——文本数据如何选择合适的 Embedding 模型？
实战AI智能体
07-29 959
例如，在 voyage-lite-02-instruct 模型卡片上，您会看到其他的 VoyageAI 模型列出，但不包括这个。在下面的截图中，我会尝试来自 Snowflake 的新模型“snowflake-arctic-embed-1”，因为它排名较高，体积小到足以在我的笔记本电脑上运行，并且模型卡片上有博客和论文的链接。最大 Token 数是输入文本块的长度，即 f(x)=y 中的 x ，您可以输入到模型中。Embedding 向量维度是向量的长度，即 f(x)=y 中的 y，模型将输出此结果。
embedding和向量数据库(pinecone)
Climbman的博客
07-13 1297
embedding和向量数据库(pinecone)玩了这么久的gpt，大家多少都会发现使用过程中有一些尴尬的点：LLM的训练数据是有ddl的，无法获取到最新的一些信息LLM不知道答案，开始放飞自我，出现hallucination想应用化（客服什么的），但某些数据是不通用的，需要自己投喂如果是一个普通用户在使用，当然是关系不大。但是如果是想将其集成然后应用化，那么这些case总是不靠谱的。微调模型（fine-tuning）成本太大，效果不一定理想。
一文全面了解向量数据库
StackFlow的博客
03-16 2393
首先，我们需要理解什么是向量？向量是基于不同特征或属性来描述对象的数据表示。每个向量代表一个单独的数据点，例如一个词或一张图片，由描述其许多特性的值的集合组成。这些变量有时被称为“特征”或“维度”。例如，一张图片可以表示为像素值的向量，整个句子也可以表示为单词嵌入的向量。图像向量，通过深度学习模型提取的图像特征向量，这些特征向量捕捉了图像的重要信息，如颜色、形状、纹理等，可以用于图像识别、检索等任务；
向量数据库｜一文全面了解向量数据库的基本概念、原理、算法、选型
2401_85328934的博客
07-17 1070
本文主要介绍了向量数据库的原理和实现，包括向量数据库的基本概念、相似性搜索算法、相似性测量算法、过滤算法和向量数据库的选型等等。向量数据库是崭新的领域，目前大部分向量数据库公司的估值乘着 AI 和 GPT 的东风从而飞速的增长，但是在实际的业务场景中，目前向量数据库的应用场景还比较少，抛开浮躁的外衣，向量数据库的应用场景还需要开发者们和业务专家们去挖掘。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
【文本特征表征（1）】什么是embedding（把物体编码为一个低维稠密向量）pytorch中nn.Embedding原理及使用，大模型的LMAS.Embedding原理及使用
Hali_Botebie的博客
06-15 1万+
使embedding空前流行的“word2vec”到了深度学习时代，我们一定会首先想到 2013 年的 Word2Vec——没错，句子是由词构成的，有了词向量，句子向量自然而然呼之欲出了。直觉看，直接对每个词的向量拼接、求和、逐元素相乘、取平均值或最大值，得到的向量都可以表示为句子向量。当然，这里面也有一些花样，比如加权重求和：权重可以根据词性、句法结构等设定一个固定值，然后对每个位置的词向量乘权重再求和；权重也可以根据输入向量来，输出向量的_每个元素_都根据输入元素向量进行加权求和。
向量数据库实战详解
06-09 6652
以NLP的相似问题场景为例。当我们将一个问题通过模型转化成了embedding向量，我们想要找到与这个问题相似的问题，也就是想要找到与embedding向量相似的向量。基本的做法之一，就是遍历备选向量与embedding向量做余弦相似度计算，然后按照计算出的余弦相似度排序，找出最相似的top N。基于向量检索的目的，向量数据库应运而生。向量数据库提供了一种高性能、高可用的查找方式。接下来，以Annoy和Milvus两种向量数据库的实战为例详解。...
向量数据库：大模型的海量记忆体
2401_84495872的博客
07-26 1812
除了Milvus之外，还有另外一个项目叫towhee。简要概括来说就是，比LangChain更开箱即用些的应用程序。它也基本上是围绕着LLM + VectorDB + Prompt chained together这样的理念来开发。
深入理解 Embedding 和 向量：AI 应用中的核心技术
python1234567_的博客
07-26 453
随着 AI 应用的持续火热，许多并不了解 AI 技术的人可能会被众多专业术语搞得一头雾水。相信大家经常会听到「嵌入（embedding）」和「向量（Vector）」这几个词。那么，这些术语到底是什么意思呢？在与我的产品经理交流时，我发现他对这些概念仍然处于似懂非懂的状态。本文将深入探讨这些概念，帮助大家更好地理解它们在 AI 应用中的重要性。Embedding 是一种将高维数据（如文本、图像等）映射到低维空间的技术。具体来说，embedding 是将文本嵌入到向量空间中，用向量来表示文本的含义。
10分钟了解向量数据库
热门推荐
zxm2015的博客
05-29 5万+
向量数据库（Vector Database），也叫矢量数据库，主要用来存储和处理向量数据。在数学中，向量是有大小和方向的量，可以使用带箭头的线段表示，箭头指向即为向量的方向，线段的长度表示向量的大小。两个向量的距离或者相似性可以通过汉明距离、欧式距离或者余弦距离得到。图像、文本和音视频这种非结构化数据都可以通过某种变换或者嵌入学习转化为向量数据存储到向量数据库中，从而实现对图像、文本和音视频的相似性搜索和检索。
什么是Vector Database(向量数据库)？
专注于人工智能领域的小何尚
06-03 6721
嵌入模型将各种数据（例如文本、图像、图表和视频）转换为数字向量，从而在多维向量空间中捕捉其含义和细微差别。嵌入技术的选择取决于应用需求，平衡语义深度、计算效率、要编码的数据类型和维数等因素。将向量映射到多维空间可以对向量的语义相似性进行细致入微的分析，从而显著提高搜索和数据分类的准确性。嵌入模型在使用 AI 聊天机器人、大型语言模型 (LLM) 和带有向量数据库的检索增强生成 (RAG) 的 AI 应用中起着至关重要的作用，以及搜索引擎和许多其他用例。
向量数据库
qq_44089890的博客
05-25 3574
向量数据库是一种专门用于存储和处理向量数据的数据库。与传统的关系型数据库不同，向量数据库可以有效地处理高维向量数据，如图像、音频、自然语言等数据类型。向量数据库通常具有以下特点：支持向量索引：向量数据库使用向量索引来快速搜索和检索向量数据。这些索引可以利用距离度量来计算向量之间的相似度，并快速找到最相似的向量。支持向量运算：向量数据库通常支持向量之间的运算，如向量加法、减法、点积、叉积等。高效存储和查询：向量数据库使用专门的存储引擎来存储向量数据，并使用高效的查询算法来快速检索数据。
本次讨论的问题目录有：什么是 Embedding？推荐系统为什么需要 Embedding？推荐系统代码中如何用数据生成 Embedding？推荐系统代码中的 Embedding 技术分类有哪些？
07-25
### 什么是 Embedding？ Embedding 是一种机器学习技术，在自然语言处理、图像识别等领域广泛应用。它将原始数据（如文本单词、图片像素）映射到一个高维空间中，使得相似的数据点在该空间中距离更近。这种映射通常...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大禹智库

大禹智库——河南第一民间智库

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值