语义哈希(semanticHashing)是指将高维空间向量映射至低维汉明空间,并保持原空间向量相似性,使得新空间向量的汉明距离反映原空间向量相似度的哈希算法。语义哈希引入了近似的概念,认为在海量数据的搜索中,在大多数情况下,完全精确的查找并不是必须的,近似解己经足以满足用户绝大多数的要求,因而通过哈希算法迅速定位数据集中一定概率下与搜索关键词相关的数据,配合汉明空间相似度度量的快速性和索引结果容易进一步扩展的特点,可以大幅提高索引和检索的效率。
受限的波尔兹曼机(RestrietedB。ItzmannMaehine)
RBM算法首先通过pretraining,采用纵向的分层的非线性的学习方式,从原始数据开始不断向上学习产生单个的RBM机,使得高维数据点转化为低维数据,并通过微调调整参数和权重确定模型,得到最终的二元索引结果。
在预训练阶段,由训练集开始向上训练,每一层得到一个独立的RBM,每一层的训练结果位数为可调节的参数,下层的训练结果作为上层训练的数据,最高层的训练结果位数为最终的索引结果位数,从而得到一个纵向的多层深度学习模型。在微调阶段,通过结合层之间的关系进一步修正每一层的RBM,从而得到自动编码机(Auto encode:)。对于训练集外的数据,直接应用自动编码机即可得到最终的索引结果。
RBM作为一种概率图模型，引入了概率就可以使用采样技术求解。能量模型需要一个定义能量函数，每个可视节点和隐藏节点之间的连接结构都有一个能量，将可视节点的一组取值（是一个训练样本的值）和隐藏节点的一组取值（也就是这个训练样本编码后的值）代入公式，就能得到这个连接结构之间的能量。引入能量模型的目的是为了方便求解目标——让RBM网络的表示Gibbs分布最大可能的拟合输入数据。结论就是求解输入样本的极大似然。
谱哈希(spectralHashing—SH)
谱哈希重新整理了语义哈希的思路,将语义哈希函数的构造与谱分析技术相结合,尝试从全新的角度得到语义哈希函数。谱哈希在对编码条件合理分析的前提下,对高维数据样本集进行谱分析,再引入特征函数(Eigenfunction),在数据集服从高维平均分布的前提下给出哈希函数。通过主成份分析法(prineipleConentAnalysis—pCA)对高维数据进行降维,得到各个维度互不相关的低维数据,进而对结果直接进行二元索引结果计算。
文中通过spectral hashing 将特征转为３２位或者６４位。
基本算法流程是：
１ 通过PCA得到数据的主成分
２ 沿着每个PCA方向通过近似矩形计算单维特征函数Ｌ（最小有ｋ个特征值）。这是在每个方向上通过公式７计算k个最小特征值：计算dk个特征值的一个列表，然后对该列表进行排序，以找到k个最小特征值
３ 将特征函数进行二值化，得到二进制编码。
查找最后就是通过二进制编码的汉明距离来进行匹配。
文章中没用使用任何的局部描述子特征，进行比较的算法也没提到是否采用局部描述子。最后对比了Ｇｉｓｔ特征――全局描述符的图像对比效果。
BOW: Bag of words
模型最初被用在文本分类中，将文档表示成特征矢量。它的基本思想是假定对于一个文本，忽略其词序和语法、句法，仅仅将其看做是一些词汇的集合，而文本中的每个词汇都是独立的。简单说就是讲每篇文档都看成一个袋子（因为里面装的都是词汇，所以称为词袋，Bag of words即因此而来），然后看这个袋子里装的都是些什么词汇，将其分类。
SIFT特征虽然也能描述一幅图像，但是每个SIFT矢量都是128维的，而且一幅图像通常都包含成百上千个SIFT矢量，在进行相似度计算时，这个计算量是非常大的，通行的做法是用聚类算法对这些矢量数据进行聚类，然后用聚类中的一个簇代表BOW中的一个视觉词，将同一幅图像的SIFT矢量映射到视觉词序列生成码本，这样每一幅图像只用一个码本矢量来描述，这样计算相似度时效率就大大提高了。
构建BOW码本步骤：
1. 假设训练集有M幅图像，对训练图象集进行预处理。包括图像增强，分割，图像统一格式，统一规格等等。
2、提取SIFT特征。对每一幅图像提取SIFT特征（每一幅图像提取多少个SIFT特征不定）。每一个SIFT特征用一个128维的描述子矢量表示，假设M幅图像共提取出N个SIFT特征。3. 用K-means对2中提取的N个SIFT特征进行聚类, 得到 k 个聚类中心作为视觉单词表，K-Means算法是一种基于样本间相似性度量的间接聚类方法，此算法以K为参数，把N个对象分为K个簇，以使簇内具有较高的相似度，而簇间相似度较低。聚类中心有k个（在BOW模型中聚类中心我们称它们为视觉词），码本的长度也就为k，计算每一幅图像的每一个SIFT特征到这k个视觉词的距离，并将其映射到距离最近的视觉词中（即将该视觉词的对应词频+1）。完成这一步后，每一幅图像就变成了一个与视觉词序列相对应的词频矢量。
位置敏感哈希(LoealitySensitiveHashing一LsH)
http://wenku.baidu.com/link?url=HHfgD1-ba7NZi9OkTX_moYqdNtqfU8HORnVTalnGo11F9G-l66bBLeI2dPWugxTSZxab4wpmrRoIB0gBskY_5uIcx2Qu1l41GMq7bo6FbPO
http://blog.csdn.net/zwwkity/article/details/8559301
受限的波尔兹曼机(RestrietedB。ItzmannMaehine)
RBM算法首先通过pretraining,采用纵向的分层的非线性的学习方式,从原始数据开始不断向上学习产生单个的RBM机,使得高维数据点转化为低维数据,并通过微调调整参数和权重确定模型,得到最终的二元索引结果。
在预训练阶段,由训练集开始向上训练,每一层得到一个独立的RBM,每一层的训练结果位数为可调节的参数,下层的训练结果作为上层训练的数据,最高层的训练结果位数为最终的索引结果位数,从而得到一个纵向的多层深度学习模型。在微调阶段,通过结合层之间的关系进一步修正每一层的RBM,从而得到自动编码机(Auto encode:)。对于训练集外的数据,直接应用自动编码机即可得到最终的索引结果。
RBM作为一种概率图模型，引入了概率就可以使用采样技术求解。能量模型需要一个定义能量函数，每个可视节点和隐藏节点之间的连接结构都有一个能量，将可视节点的一组取值（是一个训练样本的值）和隐藏节点的一组取值（也就是这个训练样本编码后的值）代入公式，就能得到这个连接结构之间的能量。引入能量模型的目的是为了方便求解目标——让RBM网络的表示Gibbs分布最大可能的拟合输入数据。结论就是求解输入样本的极大似然。
谱哈希(spectralHashing—SH)
谱哈希重新整理了语义哈希的思路,将语义哈希函数的构造与谱分析技术相结合,尝试从全新的角度得到语义哈希函数。谱哈希在对编码条件合理分析的前提下,对高维数据样本集进行谱分析,再引入特征函数(Eigenfunction),在数据集服从高维平均分布的前提下给出哈希函数。通过主成份分析法(prineipleConentAnalysis—pCA)对高维数据进行降维,得到各个维度互不相关的低维数据,进而对结果直接进行二元索引结果计算。
文中通过spectral hashing 将特征转为３２位或者６４位。
基本算法流程是：
１ 通过PCA得到数据的主成分
２ 沿着每个PCA方向通过近似矩形计算单维特征函数Ｌ（最小有ｋ个特征值）。这是在每个方向上通过公式７计算k个最小特征值：计算dk个特征值的一个列表，然后对该列表进行排序，以找到k个最小特征值
３ 将特征函数进行二值化，得到二进制编码。
查找最后就是通过二进制编码的汉明距离来进行匹配。
文章中没用使用任何的局部描述子特征，进行比较的算法也没提到是否采用局部描述子。最后对比了Ｇｉｓｔ特征――全局描述符的图像对比效果。
algorithm analyse : http://blog.csdn.net/zwwkity/article/details/8568994
source code
BOW: Bag of words
模型最初被用在文本分类中，将文档表示成特征矢量。它的基本思想是假定对于一个文本，忽略其词序和语法、句法，仅仅将其看做是一些词汇的集合，而文本中的每个词汇都是独立的。简单说就是讲每篇文档都看成一个袋子（因为里面装的都是词汇，所以称为词袋，Bag of words即因此而来），然后看这个袋子里装的都是些什么词汇，将其分类。
SIFT特征虽然也能描述一幅图像，但是每个SIFT矢量都是128维的，而且一幅图像通常都包含成百上千个SIFT矢量，在进行相似度计算时，这个计算量是非常大的，通行的做法是用聚类算法对这些矢量数据进行聚类，然后用聚类中的一个簇代表BOW中的一个视觉词，将同一幅图像的SIFT矢量映射到视觉词序列生成码本，这样每一幅图像只用一个码本矢量来描述，这样计算相似度时效率就大大提高了。
构建BOW码本步骤：
1. 假设训练集有M幅图像，对训练图象集进行预处理。包括图像增强，分割，图像统一格式，统一规格等等。
2、提取SIFT特征。对每一幅图像提取SIFT特征（每一幅图像提取多少个SIFT特征不定）。每一个SIFT特征用一个128维的描述子矢量表示，假设M幅图像共提取出N个SIFT特征。3. 用K-means对2中提取的N个SIFT特征进行聚类, 得到 k 个聚类中心作为视觉单词表，K-Means算法是一种基于样本间相似性度量的间接聚类方法，此算法以K为参数，把N个对象分为K个簇，以使簇内具有较高的相似度，而簇间相似度较低。聚类中心有k个（在BOW模型中聚类中心我们称它们为视觉词），码本的长度也就为k，计算每一幅图像的每一个SIFT特征到这k个视觉词的距离，并将其映射到距离最近的视觉词中（即将该视觉词的对应词频+1）。完成这一步后，每一幅图像就变成了一个与视觉词序列相对应的词频矢量。
扫一扫
1156
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
