图像基础操作（3）--图像特征

学习的视频：OpenCV计算机视觉实战(Python版)
B站链接 https://www.bilibili.com/video/av59316056?p=1

图像特征-harris角点检测

基本原理

cornerHarris函数

cv2.cornerHarris()
img： 数据类型为 float32 的入图像
blockSize： 角点检测中指定区域的大小
ksize： Sobel求导中使用的窗口大小
k： 取值参数为 [0,04,0.06]

import cv2 
import numpy as np

img = cv2.imread('test_1.jpg')
print ('img.shape:',img.shape)
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
# gray = np.float32(gray)
dst = cv2.cornerHarris(gray, 2, 3, 0.04)#ksize一般设置成3
print ('dst.shape:',dst.shape)#输出的是每个像素点（与移动之后相比）的自相似性，所以形状和原图的形状（高和宽）一样

img.shape: (800, 1200, 3)
dst.shape: (800, 1200)

img[dst>0.01*dst.max()]=[0,0,255]#对每个点进行判断，看是不是角点（与dst中最大值的0.01倍进行比较，如果返回结果是true，就用红色点标出）
cv2.imshow('dst',img) 
cv2.waitKey(0) 
cv2.destroyAllWindows()

Scale Invariant Feature Transform（SIFT）

图像尺度空间

在一定的范围内，无论物体是大还是小，人眼都可以分辨出来，然而计算机要有相同的能力却很难，所以要让机器能够对物体在不同尺度下有一个统一的认知，就需要考虑图像在不同的尺度下都存在的特点。

尺度空间的获取：在原图上进行不同程度的高斯滤波
不同程度的高斯模糊，不同σ的高斯函数决定了对图像的平滑程度，σ值越大，与原图的偏离程度越大，获得的图像也就越模糊。

多分辨率金字塔

图像金字塔化：
使用低通滤波器平滑图像；
对图像进行降采样（通常是水平，竖直方向1/2），从而得到一系列尺寸缩小的图像。对于二维图像，每一层图像由上一层分辨率的长、宽各一半，也就是四分之一的像素组成。

高斯差分金字塔（DOG）

DoG空间极值检测

通过高斯差分得到DOG图像，在DOG空间再找极值点（特征变化明显）
为了寻找尺度空间的极值点，每个像素点要和其图像域（同一尺度空间）和尺度域（相邻的尺度空间）的所有相邻点进行比较，当其大于（或者小于）所有相邻点时，该点就是极值点。如下图所示，中间的检测点要和其所在图像的3×3邻域8个像素点，以及其相邻的上下两层的3×3领域18个像素点，共26个像素点进行比较。

关键点的精确定位

上述找到的极值点并非真正的极值点，需要进行拟合修正，找到真正的极值点。
这些候选关键点是DOG空间的局部极值点，而且这些极值点均为离散的点，精确定位极值点的一种方法是，对尺度空间DoG函数进行曲线拟合，计算其极值点，从而实现关键点的精确定位。

消除边界响应

特征点的主方向

每个特征点可以得到三个信息(x,y,σ,θ)，即位置、尺度和方向。具有多个方向的关键点可以被复制成多份，然后将方向值分别赋给复制后的特征点，一个特征点就产生了多个坐标、尺度相等，但是方向不同的特征点。

生成特征描述

在完成关键点的梯度计算后，使用直方图统计邻域内像素的梯度和方向。
为了保证特征矢量的旋转不变性，要以特征点为中心，在附近邻域内将坐标轴旋转θ角度，即将坐标轴旋转为特征点的主方向。
旋转之后的主方向为中心取8x8的窗口，求每个像素的梯度幅值和方向，箭头方向代表梯度方向，长度代表梯度幅值，然后利用高斯窗口对其进行加权运算，最后在每个4x4的小块上绘制8个方向的梯度直方图，计算每个梯度方向的累加值，即可形成一个种子点，即每个特征的由4个种子点组成，每个种子点有8个方向的向量信息。
论文中建议对每个关键点使用4x4共16个种子点来描述，这样一个关键点就会产生128维的SIFT特征向量。

opencv SIFT函数

import cv2
import numpy as np

img = cv2.imread('test_1.jpg')
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)

cv2.__version__ #3.4.1.15 pip install opencv-python==3.4.1.15 pip install opencv-contrib-python==3.4.1.15

得到特征点

sift = cv2.xfeatures2d.SIFT_create() #先实例化对象
kp = sift.detect(gray, None) #传入的参数gray是灰度图，得到的kp是关键点
img = cv2.drawKeypoints(gray, kp, img)  #在原图中绘制关键点

cv2.imshow('drawKeypoints', img)
cv2.waitKey(0)
cv2.destroyAllWindows()

计算特征

kp, des = sift.compute(gray, kp)#传入图和关键点

print (np.array(kp).shape)#返回的第一个参数是关键点的个数

(6827,)

des.shape#返回的第二个参数是所有关键点对应的特征向量

(6827, 128)

des[0]

array([  0.,   0.,   0.,   0.,   0.,   0.,   0.,   0.,  21.,   8.,   0.,
         0.,   0.,   0.,   0.,   0., 157.,  31.,   3.,   1.,   0.,   0.,
         2.,  63.,  75.,   7.,  20.,  35.,  31.,  74.,  23.,  66.,   0.,
         0.,   1.,   3.,   4.,   1.,   0.,   0.,  76.,  15.,  13.,  27.,
         8.,   1.,   0.,   2., 157., 112.,  50.,  31.,   2.,   0.,   0.,
         9.,  49.,  42., 157., 157.,  12.,   4.,   1.,   5.,   1.,  13.,
         7.,  12.,  41.,   5.,   0.,   0., 104.,   8.,   5.,  19.,  53.,
         5.,   1.,  21., 157.,  55.,  35.,  90.,  22.,   0.,   0.,  18.,
         3.,   6.,  68., 157.,  52.,   0.,   0.,   0.,   7.,  34.,  10.,
        10.,  11.,   0.,   2.,   6.,  44.,   9.,   4.,   7.,  19.,   5.,
        14.,  26.,  37.,  28.,  32.,  92.,  16.,   2.,   3.,   4.,   0.,
         0.,   6.,  92.,  23.,   0.,   0.,   0.], dtype=float32)