求解线性分类问题,线性SVM是一种非常有效的方法,但是有时分类问题是非线性的,这时可以使用非线性SVM。非线性问题往往不好求解,希望能用解线性分类问题的方法解决这个问题,可以采用非线性变换,将非线性问题变换为线性问题,通过解决变换后的线性问题的方法求解原来的非线性问题。
在线性回归中,可以将多项式回归转化为线性回归。比如一个只有两个特征的p次多项式回归模型:
令
,得到:
这是一个五元线性回归,可以用线性回归的方法来解决。对于每一个二元样本特征
,得到一个五元样本特征
,通过这个改进的五元样本特征,把不是线性回归的函数变成线性回归。也就是说,对于二维的不是线性的数据,将其映射到五维后就变成了线性数据。这给了我们启发,对于在低维线性不可分的数据,映射到高维后就变成线性可分的了。这个思想同样可以运用到S
在线性回归中,可以将多项式回归转化为线性回归。比如一个只有两个特征的p次多项式回归模型: