KCF简述

引言

  人们很容易将注意力集中在描述感兴趣的对象——分类器的正样本上。然而，判别方法的一个核心原则是对相关的环境——负样本给予同等或更多的重视。最常用的负样本是：来自不同位置和尺度的图像小块，分类器将在这些条件下进行评估，反映了先验知识。一个极大的挑战因素是：虽可以从图像中获得几乎无限的的负样本，但由于跟踪的时间敏感性，现代跟踪器需要在尽可能合并更多样本和保持较低的计算需求中进行折中。通常的做法是每帧随机选择几个样本。而本文认为负样本的欠采样是阻碍跟踪性能的主要因素，因此本文开发了循环矩阵，给现在流行的一些学习算法和经典的信号处理的算法提供了一个有力的桥梁，它的影响就是能够提出一个基于核的脊回归算法，这种算法避免了核化，也就是更大的渐近线复杂度。这种算法甚至展现出比非结构化线性回归更低的复杂度。这种算法可以看作是线性相关滤波器的核化版本，这就为最快的跟踪器的形成奠定了基础。

相关工作

  这里是从两个方面讲，第一个方面是指tracking-by-detection。（这个地方很有趣，原文说对检测跟踪的全面回顾不在本文讨论范围之内，然后就直接标注了两个参考文献。），不过这里还是介绍了一些tracking-by-detection的典型追踪器：基于支持向量机（SVM）的示例、随机森林分类器或这些算法的增强变体。
  第二个方面是在相关滤波方向，有一些研究工作尝试使用核的方法在相关滤波器上。这些工作中，两种类型的目标对象函数必须区分开来。一种是不考虑能量谱或者图像平移的SDF滤波器。另一种是考虑能量谱以及平移的，例如最小平均相关能量法（minimum average correlation energy ），最优化权衡（optimal trade off)平方误差的最小输出和滤波器（MOSSE）,由于空间结构可以有效的忽略，所以前者更容易实现，也就是Kernel SDF滤波器已提了出来。然而，变换后的图像，非线性核与傅里叶域之间尚缺乏一个清晰的关系。将核技巧应用到其他滤波器已经被证明更加困难，其中一些提议明显要求更过的计算时间，并对可考虑的图像以为数量进行了严格限制。

方法

  （1）脊回归
  设训练样本集为(x_i,y_i )，样本x_i为列向量，其线性回归函数f(x_i )=ω^T x_i，ω是列向量，表示权重系数，可通过最小二乘法求解：

  其中λ是指正则化参数，防止发生过拟合。
  可求得线性回归的最小二乘法解为：

  将结果都统一写成复数域中形式：

  其中X^H表示复共轭转置矩阵。
  （2）循环矩阵
  KCF中所有的训练样本是由目标样本循环位移得到的，向量的循环可有排列矩阵得到，比如

  可以通过不断的乘上排列矩阵得到n个循环移位向量,将这n个向量依序排列到一个矩阵中，就形成了x生成的循环矩阵，表示成C(x):

  循环矩阵X能被傅立叶矩阵对角化：

  其中X为原向量x生成的循环矩阵，F为离散傅立叶矩阵。
  1D向量得到的循环矩阵如下图：

  2D图像不同循环次数后的移位如下：

  （3）非线性回归
  将线性转化为非线性，把特征映射到高维空间，结果存于核矩阵K中，K是所有训练样本的核相关矩阵：

  引入核方法，得到非线性回归函数如下：

  （4）快速检测
  在检测部分,本文针对测试图像z的所有(循环移位)样本进行分类，于是得到

  其中，f(z)是一个向量，包含的z所有循环移位的输出，即全部的检测响应。最后对角化得到：

  （5）快速核相关
  内积和多项式核的计算为：

  径向基核函数，比如高斯核，则有：

  （6）多通道
  论文中Hog特征的提取是将sample区域划分成若干的区域，然后再每个区域提取特征，提取了31个特征(最后一个0不考虑)之后，不是串联起来，而是将每个cell的特征并起来，那么一幅图像得到的结果就是一个立体块，那么就可以通过cell的位移来获得样本，这样对应的就是每一通道对应位置的移位，所有样本的第i通道都是有生成图像的第i通道移位获得的，所以分开在每一个通道上计算，就可以利用循环矩阵的性质了。

实验

  将KCF应用在OTB-50的结果：

  在OTB-50与其他的算法对比如下：

总结

  本文提出了KCF算法，使用了HOG特征+核函数法，在核化的相关滤波器的基础上，提出通过线性核，扩展线性相关滤波器至多通道，即对偶的相关滤波器（Dual Correlation Filter）。原理非常复杂，和MOSSE一样，数学公式推导过程繁琐，学习难度很大，但是单看代码，会觉得很简洁。