1. 脊回归(英文名:Ridge Regression)
从数学角度来讲,脊回归实质上是一种改良的最小二乘估计法,通过放弃最小二乘法的无偏性,以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法,对病态数据的拟合要强于最小二乘法。
从机器学习的角度来讲,脊回归可以防止过拟合,提升模型的泛化能力(不仅训练误差小,测试误差也小。)。参考链接:点击打开链接
设训练样本集为(xi,yi),线性回归方程为
w是列向量表示权重系数。可通过脊回归求解:
公式(1)写成矩阵形式如下:
下标解释:n是训练样本的个数,m是每个训练样本的维度。
2. 循环矩阵
KCF中所有训练样本都是由base sample(a positive example)循环移位得到的。一维信号的循环移位如下:
二维信号(图片)的循环移位:通过在x轴和y轴分别进行移位实现二维信号的移位。
输入图片:
MATLAB代码:
base = imread('D:\Documents\Pictures\timg.jpg');
imshow(base)
base_gray = rgb2gray(base);
base_gray_double = im2double(base_gray);
P = zeros(223,223);
for i=2:223 P(i,i-1)=1; end
P(1,end)=1;
Q = zeros(224,224);
for i=1:223 Q(i,i+1)=1; end
Q(end,1)=1;
out1 = P^50*base_gray_double; 下移50位
out2 = base_gray_double*Q^50;右移50位
out3 = P^50*base_gray_double*Q^50;右移,下移50位