每天五分钟机器学习：支持向量机通过核函数解决线性不可分的问题

本文重点

支持向量机可以解决数据线性可分的问题，也就是说可以通过一个超平面来对数据进行切分，但是很多时候数据都是线性不可分的，面对线性不可分的情况下，我们需要将我们的数据映射到高维空间（得到新的特征），而映射到高维空间的方法就是使用核函数，它可以来帮助我们构造复杂的非线性的分类器。

直观解释

现在我们有一个线性不可分的数据集，如图所示，现在可以使用多项式模型来解决无法用直线进行分隔的问题，那么此时得到的判定边界为：

 

 

要想获得上图所示的决策边界，我们的模型可能是：θ0+θ1x1+θ2x2+θ3x1x2+θ4x1²+θ5x2²+θ6x1³+θ7x2³+…的形式

我们可以用一系列新的特征f来替换模型中的每一项。例如：f1=x1，f2=x2，f3=x1x2，f4=x1²，f5=x2²，f6=x1³，f7=x2³，从而得到hθ（x）=θ0+θ1f1