#线性不可分 我们的SVM是找到一条分割直线,但是如果线性不可分怎么办?如下图:
可以看出,是有一个明显的分割线的,但是不是直线,这种情况下我们怎么用SVM呢?我们可以找到一种变化,让变换后的数据线性可分,用图形象的表示为:
图中的 ϕ 就是我们找到的线性变化。至此我们就能解决线性不可分问题。
核函数
我们接着说线性不可分问题。我们怎么找 ϕ 呢?有个想法是这样的:
比如原始数据满足的是二次函数规律那把原来的X,扩展成[X | X2]的形式,这样我们就又能进行线性回归了。同理,如果是三次,就扩展成[X | X2| X3],记作 ϕ(x) 。
正常线性可分问题dual问题为:
maxα∑ipαi−12∑i,j=1pyiyjαiαjxTi⋅xj