图像检索之product quantization 算法解析

最新推荐文章于 2024-09-22 06:00:00 发布
最新推荐文章于 2024-09-22 06:00:00 发布
阅读量1w 收藏 13
点赞数 9
分类专栏： 图像搜索
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Swartz2015/article/details/50859666
版权
图像检索的关键是向量相似度比较，常用方法是通过比较欧式距离。随着数据量增大，朴素遍历法效率低下，因此出现了近似最邻近算法(ANN)。产品量化(Product Quantization)是ANN的一种，它将向量分解后分别量化，降低计算复杂度。通过建立codebook并进行量化，可以高效检索。产品量化算法结合了Lloyd量化器的思想，通过优化的量化方法减少误差。在检索过程中，利用倒排索引结构加速计算，实现高效图像匹配。
摘要由CSDN通过智能技术生成

        图像搜索首先需要提取图像的特征信息。由于全局信息具有不稳定性和敏感性，鲁棒性较差。所以现在一般都提取图像的局部信息，如SIFT，SUFT等。这样，一副图像就可以用许多特征点组成。每个特征点用一个向量表示，对于SIFT，SUFT，这个向量是128维的。在提取出特征向量之后。因为一般每幅图像都可以提取几百上千个特征点，为了方便图像匹配，一般还需要将这些特征向量聚合成一个向量，方便比较。当然，也不是所有的算法都需要将特征向量进行聚合。

      

       因此可以看到图像匹配的本质就是比较向量的相似程度。现在主要是通过比较向量的欧式距离来比较他们的相似程度。比较过程就是对于一个输入向量，在数据库中找到与其在欧式空间上距离最近的向量。因此，朴素的算法是对数据库中的特征向量进行遍历。因为要找到最邻近的匹配值，起码都要把所有的向量比较一遍。但有两个问题，一个是数据库中一般含有的特征向量数目非常多，起码都是千万级别的。因此遍历一遍会花很多时间；其次，计算向量之间的欧氏距离也是一个花销非常大的过程。

      为了解决最邻近算法的这些问题，现在提出了近似最邻近算法(approximate nearest neighbor-ANN)。ANN算法目的不是寻找最邻近向量，而是近似最邻近向量。

     ANN算法的核心思想是先建立codebook,，然后将特征向量量化到code word上。最后通过比较对应的code word的距离即可。可以认为被量化到同一个code word上的特征是近似最邻近的。因此前面的距离算法到这里就编程了量化算法。但是量化算法也有一些缺点，就是存在量化误差-可能会把欧式空间中相邻的特征量化到不同的code word上。毕竟量化过程会丢失特征向量的某些特征。为了弥补这些误差，各种算法都提出了一些优化措施。

     本文主要是介绍量化算法中的一种叫做product quantization。目前有许多很有名的ANN算法，product quantization是其中比较好的算法。相关详细信息可以参考论文：Jegou, Herve, Matthijs Douze, and Cordelia Schmid. "Product quantization for nearest neighbor search." Pattern Analysis and Machine Intelligence, IEEE Transactions on 33.1 (2011): 117-128


      1.背景知识

     首先介绍一下向量量化的一些背景知识。向量量化的目标是为了减少空间结构的复杂度。因为经过量化，任何空间中的点都可以用有限的几个code word来表示。假设存在量化函数q，和词汇 C，则对于空间中的任何一个向量x都有

     


最低0.47元/天 解锁文章
gswen
关注
专栏目录
乘积量化（Product Quantization）算法原理
u013250861的博客
11-01 1020
乘积量化（PQ）算法是和VLAD算法是由法国INRIA实验室一同提出来的，为的是加快图像的检索速度，所以它是一种检索算法，在矢量量化（Vector Quantization，VQ）的基础上发展而来，虽然PQ不算是新算法，但是这种思想还是挺有用处的。它原文中是接在VLAD算法后面，假设我们使用VLAD算法获得了1M（1024K）的图像表达向量，向量的维度为D=128，则对于一幅查询图像来说，我们需要计算1M（1024K）个余弦距离，这样实时性就比较差。
product-quantization::upside-down_face:矢量量化算法的实现，Norm-Explicit Quantization的代码
05-29
乘积量化 使用python进行矢量量化的通用框架。 , AAAI 2020, 口头 规范显式量化：改进最大内积搜索的矢量量化。 抽象的 矢量量化 (VQ) 技术广泛用于数据压缩的相似性搜索、快速度量计算等。最初是为欧几里德距离设计的，现有的 VQ 技术（例如 PQ、AQ）显式或隐式地最小化量化误差。 在本文中，我们提出了一个新的角度来分析量化误差，将量化误差分解为范数误差和方向误差。 我们表明范数中的量化误差对内积的影响比方向上的量化误差大得多，并且小的量化误差并不一定会导致最大内积搜索（MIPS）的良好性能。 基于这一观察，我们提出了范数显式量化（NEQ）——一种改进现有 MIPS VQ 技术的通用范式。 NEQ 明确量化数据集中项目的范数以减少范数错误，这对 MIPS 至关重要。 对于方向向量，NEQ 可以简单地重用现有的 VQ 技术来量化它们而无需修改。 我们对各种数据集和参数配
Product Quantization算法
浙大软院研究生，数据库方向
07-21 404
PQ乘积量化是一种用于向量压缩的技术，其目标是将高维向量压缩为低维以支持近似近邻搜索（ANNS）。
向量数据库常见算法 | 八十三、Product Quantization（PQ）技术
最新发布
Androiddddd的博客
09-22 564
随着大数据时代的到来，向量数据库在数据科学和机器学习领域中发挥着重要作用。然而，向量数据的高维度特性使得存储和处理这些数据变得复杂和昂贵。为了解决这个问题，Product Quantization（PQ）技术应运而生。本文将介绍Product Quantization的基本原理、优势及其在实际应用中的使用。
PQ(product quantization) 算法
slamer的专栏
11-05 5669
转自：http://vividfree.github.io/    1. 引言 Product quantization，国内有人直译为乘积量化，这里的乘积是指笛卡尔积（Cartesian product），意思是指把原来的向量空间分解为若干个低维向量空间的笛卡尔积，并对分解得到的低维向量空间分别做量化（quantization）。这样每个向量就能由多个低维空间的量化code组合表示。为简洁描...
product quantization
学习笔记
09-19 496
参考 理解 product quantization 算法 实例理解product quantization算法 Product Quantizers for k-NN Tutorial Part 1 安装 VS Code ubuntu安装vscode的两种方法 Ubuntu下安装opencv3.3 ubuntu16.04安装opencv3.4.1教程 ...
Product Quantization for Nearest Neighbor Search论文实验
CHIERYU的专栏
12-25 5083
记得大学三时有个老师跟我们说，检验是否深刻理解一篇论文的做法之一就是给你一篇论文，看你能否将论文中的结果重复实验出来，当时觉得老师的说法好厉害、离我们太远，而且一直没有机会这么干过。幸运的是，最近在一大神的指导下进行了一次关于一篇检索论文的PQ实验结果，终于亲身体验了一回老师之前的话，这得感谢感谢大神了。闲话少说，这次PQ实验主要是深刻理解论文，通过实验体会PQ算法是如何将大搜索空间分解为小的搜索空
faiss(2)：理解product quantization算法
沈春旭的博客
11-03 5993
近几年，深度学习技术被广泛用于图像识别、语音识别、自然语言处理等领域，能够把每个实体（图像、语音、文本）转换为对应的embedding向量。如这里千人千面智能淘宝店铺背后的算法研究登陆人工智能顶级会议AAAI 2017。而对于推荐、搜索或者广告投放问题，都可以描述为从大规模候选中给用户提供有限的展现结果。那么，这里就会涉及到向量检索的问题。 向量检索最简单的想法是暴力穷举法，如果全部实体的个数是...
product quantization ADC算法在Windows下的实现
08-15
总的来说，"product quantization ADC算法在Windows下的实现"是一个涉及高维数据压缩、近似搜索和向量距离计算的综合项目，通过MATLAB源码，我们可以深入了解PQ算法的工作原理，并在实际环境中进行部署和优化。
product quantization SDC算法在Windows下的实现
08-15
产品量化（Product Quantization, 简称PQ）是一种数据压缩和索引技术，尤其在计算机视觉和信息检索领域中被广泛应用于大规模高维数据的处理。它将高维特征向量分解为多个低维子空间，并在每个子空间上进行量化，从而...
PQ(product quantization) 算法---(一)
热门推荐
hairuiJY
07-08 3万+
转自：http://vividfree.github.io/   1. 引言Product quantization，国内有人直译为乘积量化，这里的乘积是指笛卡尔积（Cartesian product），意思是指把原来的向量空间分解为若干个低维向量空间的笛卡尔积，并对分解得到的低维向量空间分别做量化（quantization）。这样每个向量就能由多个低维空间的量化code组合表示。为简洁描述起见，...
最近邻搜索之乘积量化（product quantization）
11-29
图像检索的最经典论文，乘积量化算法。最早于2011年发表于IEEE
乘积量化代码
08-07
乘积量化（PQ）算法为的是加快图像的检索速度，它是一种检索算法，在矢量量化（Vector Quantization，VQ）的基础上发展而来。
基于乘积量化的快速特征匹配
01-17
用matlab实现了基于乘积量化的快速sift特征匹配,相比于传统的特征比配方法，提高了匹配的速度。
Product quantization for nearest neighbor search
mqfcu8的专栏
04-13 4726
文章为近似最近邻搜索提供了一种新方法：将高维数据量化划分为一些独立的低维子空间的Cartesian乘积，称之为PQ法。文章先形式化地描述了最近邻问题，并解释了对一个高维向量进行PQ，在内存使用量和Assignment复杂度上都比k-means优秀。然而在query时不能忍受遍历所有dataset的方式，提出coarse k-means划分成子集，再进行PQ法。
faiss原理（Product Quantization）
WitsMakeMen的专栏
06-07 160
转子：https://zhuanlan.zhihu.com/p/534004381。[1] 实例理解product quantization算法。[6] 理解 product quantization 算法。[2] 【关于 Faiss 】 那些的你不知道的事-技术圈。
最近邻搜索值乘积量化（Product Quantization）
Suan2014的博客
10-18 1617
转自：http://blog.csdn.net/CHIERYU/article/details/50321473    和   http://blog.csdn.net/CHIERYU/article/details/50347735 简介 Product Quantizer是由Herv´e J´egou等人2011年在IEEEE上发表的论文《Product Qua
PQ(product quantization) 算法---(二)
hairuiJY
07-08 5980
PQ（productquantization）算法：乘积量化，这里的乘积为笛卡尔积；从字面理解包括了两个过程特征的分组量化过程和类别的笛卡尔积过程。它属于ANN(approximatenearest neighbor)算法。与它相关的算法有E2LSH（EuclideanLocality-SensitiveHashing）， KD-trees，K-means。假设有一个数据集： 由n个D维向量组成（...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值