目录
1 核函数
核函数的功能就是从低维度的空间向高维度空间转换的函数, 因为在低维空间不可以线性分类的问题到高维度空间就可以线性分类的。 其求法为 低维空间的点映射到高维空间的点后,两个点的内积 就是核函数。
核函数的入门理解还是要从,将二维非线性问题转化为三维线性问题。
小结:通过增加维度的方法来实现从非线性可分到线性可分。
2 Sklearn中理解核函数
2.1 重要参数kernel
在sklearn中参数kernel有以下几种选项
输入 | 含义 | 解决问题 | 核函数表达式 | 参数 gamma |
参数 degree |
参数 coef0 |
‘linear’ | 线性核 | 线性 | K(x,y)=xTy=x⋅y | NO | NO | NO |
‘poly’ | 多项式核 | 偏线性 | K(x,y)=(γ(x⋅y)+r)d | YES | YES | YES |
"sigmoid" | 双曲正切核 | 非线性 | K(x,y)=tanh(γ(x⋅y)+r) | YES | NO | YES |
‘rbf | 高斯径向基 | 偏非线性 | K(x,y)=e−γ(x−y)2,γ>0 | NO | NO | NO |
可以看出,除了选项"linear"之外,其他核函数都可以处理非线性问题。多项式核函数有次数d,当d为1的时候它就是再处理线性问题,当d为更高次项的时候它就是在处理非线性问题。