核函数变换

线性核函数 （Linear核函数）

定义：

使用条件：特征比较丰富，样本数据量巨大，需要进行实时得出结果的问题。

多项式核函数（polynomial核函数）

定义：   其中r>0，一般n取2，c取1。

 经过多项式变换后，低维数据将变成高维数据，计算量暴涨。

例如两个三维数据x1=（0,1,2），x2=（3,4,5）在3D空间不能对其进行线性划分，需要通过某个函数将其映射到更高维的空间，假如映射到9维空间，f（x1）=（0,0,0,0,1,2,0,2,4），                       f（x2）=（9,12,15,12,16,20,15,20,25），再做内积<f(x1),f(x2)>=0+0+0+0+16+40+0+40+100=196。

但是有个数学公式很神奇：K(x,y)=（<x,y>）**2  该公式即是核函数。

K(x,y)=(0+4+10)**2=196。

高斯核函数（Gaussian核函数）

定义：

通过该公式可知，其作用类似两个样本点之间的距离的度量。若X和Y相似，则结果接近1，反之接近0。

越小，高斯函数图像越陡峭，说明两点的差异表现越明显，识别的效率可能越高，但易发生过拟合；反之，高斯函数图像越平滑，说明两点的差异表现越不明显，识别的效率可能较低，但不易发生过拟合 。