OpenCV图像特征SIFT

图像尺度空间

• 在一定的范围内，无论物体是大还是小，人眼都可以分辨出来，然而计算机要有相同的能力却很难，所以要让计算机能够对物体在不同尺度下有一个统一的认知，就需要考虑图像在不同的尺度下都存在的特点。
• 尺度空间的获取通常使用高斯模糊来实现(公式如下)：
  $L$($x$,$y$,$\sigma$) = $G$($x$,$y$,$\sigma$) * $I$($x$,$y$)
  • G表示高斯函数
  • I表示输入图像
  • 通产高斯核选用3x3或5x5
• 高斯函数如下图所示：
  
  • 我们可通过$\sigma$的值来控制图片的模糊程度，如果$\sigma$值越大，标准差越大，浮动范围也就越大，原始图像改变越明显。

多分辨率金字塔

• 我们在对图像进行不同的滤波操作往往是不够的，我们还需要对其进行金字塔操作。进行下采样时，高斯滤波之后图像数量需保持不变。

多分辨率金字塔DOG

• 高斯滤波得到的图像进行两两相减得到高斯差分金字塔如下图所示：
  
• DOG定义公式如下：
  

DoG空间极值检测

• 为了寻找尺度空间的极值点，每个像素点要和其图像域（同一尺度空间）和尺度域（相邻的尺度空间）的所有相邻点进行比较，当其大于（或者小于）所有相邻点时，该点就是极值点。如下图所示，中间的检测点要和其所在图像的3×3邻域8个像素点，以及其相邻的上下两层的3×3领域18个像素点，共26个像素点进行比较。
• G = DOG + 1
  

关键点的精确定位

• 这些候选关键点是DOG空间的局部极值点，而且这些极值点均为离散的点，精确定位极值点的一种方法是，对尺度空间DOG函数进行曲线拟合，计算其极值点，从而实现关键点的精确定位。如下图所示：
  
• 利用泰勒展式可得（一般来说二阶就够了）：
  
• 对于离散点来说不太好求导，我们需要使用泰勒展式，这里只能是求得出一个近似。省略了一个$\Delta$。通过f’(x)=0可以求得真正的极值点。
• 当然通过举这个例子就是通俗地讲了一下DOG这样的方法，而真正公式是个三维的，要比这复杂很多，如下所示：
  

消除边界响应

• 使用高斯滤波进行操作之后可能会增加一些边界响应，此时我们需要消除边界响应。
• 海塞矩阵
  
• 如果两个特征值的比值$\gamma$>10则特征点被消除

SIFT算法特征点

特征点的主方向

• 每个特征点可以得到三个信息(x,y,σ,θ)，即位置、尺度和方向。具有多个方向的关键点可以被复制成多份，然后将方向值分别赋给复制后的特征点，一个特征点就产生了多个坐标、尺度相等，但是方向不同的特征点。

生成特征描述

• 在完成关键点的梯度计算后，使用直方图统计邻域内像素的梯度和方向。
  
• 为了保证特征矢量的旋转不变性，要以特征点为中心，在附近邻域内将坐标轴旋转θ角度，即将坐标轴旋转为特征点的主方向。公式如下：
  
• 旋转之后的主方向为中心取8x8的窗口，求每个像素的梯度幅值和方向，箭头方向代表梯度方向，长度代表梯度幅值，然后利用高斯窗口对其进行加权运算，最后在每个4x4的小块上绘制8个方向的梯度直方图，计算每个梯度方向的累加值，即可形成一个种子点，即每个特征的由4个种子点组成，每个种子点有8个方向的向量信息。
  
• 建议对每个关键点使用4x4共16个种子点来描述，这样一个关键点就会产生128维的SIFT特征向量。
  

OpenCV中SIFT算法的使用

• 读取图像

import cv2
import numpy as np

img = cv2.imread('xiaohuolong.jpg')
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)

• 得到特征点

sift = cv2.xfeatures2d.SIFT_create()
kp = sift.detect(gray, None)
#绘制关键点
img = cv2.drawKeypoints(gray, kp, img)

cv2.imshow('drawKeypoints', img)
cv2.waitKey(0)
cv2.destroyAllWindows()

• 计算特征

kp, des = sift.compute(gray, kp)
print (np.array(kp).shape)
(187,)
des.shape
#默认128维
(187, 128)
des[0]
array([ 30.,   5.,   0.,  11.,  10.,   4.,   0.,  24.,  20.,   3.,   0.,
         1.,   0.,   0.,   5.,  70.,   1.,   0.,   0.,   1.,   0.,   0.,
        31., 160.,   1.,   0.,   0.,   0.,   0.,   0.,  38., 158.,  18.,
         0.,   0.,   4.,   0.,   0.,   4.,  59., 160.,   3.,   0.,   0.,
         0.,   0.,   4., 160.,  52.,   1.,   0.,   0.,   0.,   0.,  21.,
       160.,   0.,   0.,   0.,   0.,   0.,   0.,  10.,  42.,  17.,   3.,
         0.,   0.,   0.,   1.,   3.,   9., 160.,  64.,   0.,   0.,   0.,
         0.,   0.,  25., 160.,  29.,   0.,   0.,   0.,   0.,   1.,  23.,
         0.,   0.,   0.,   0.,   0.,   0.,   1.,   1.,   5.,   2.,   0.,
         0.,   0.,   1.,   1.,   0., 160.,  69.,   0.,   0.,   0.,   0.,
         0.,   2., 160.,  45.,   0.,   0.,   0.,   0.,   0.,   1.,   2.,
         0.,   0.,   0.,   0.,   0.,   0.,   0.], dtype=float32)
​