本文重点
支持向量机可以解决数据线性可分的问题,也就是说可以通过一个超平面来对数据进行切分,但是很多时候数据都是线性不可分的,面对线性不可分的情况下,我们需要将我们的数据映射到高维空间(得到新的特征),而映射到高维空间的方法就是使用核函数,它可以来帮助我们构造复杂的非线性的分类器。
直观解释
现在我们有一个线性不可分的数据集,如图所示,现在可以使用多项式模型来解决无法用直线进行分隔的问题,那么此时得到的判定边界为:
要想获得上图所示的决策边界,我们的模型可能是:θ0+θ1x1+θ2x2+θ3x1x2+θ4x1²+θ5x2²+θ6x1³+θ7x2³+…的形式
我们可以用一系列新的特征f来替换模型中的每一项。例如:f1=x1,f2=x2,f3=x1x2,f4=x1²,f5=x2²,f6=x1³,f7=x2³,从而得到hθ(x)=θ0