支持向量机（二）线性支持向量机与软间隔最大化

        这篇文章是在支持向量机（一）基础上写的，如果对支持向量机还不太熟悉的话，建议先看（一）。

        在支持向量机（一）中，我们主要讨论的是线性可分的支持向量机，但是现实情况中数据往往是线性不可分的，即数据中存在噪声点，使其不是完全线性可分的，或者说是近似线性可分的。这种情况下就是软间隔最大化，也就是线性支持向量机，而线性可分的支持向量机可以看成是线性支持向量机的一种特殊情况。

       

1.线性支持向量机

        我们知道在线性的支持向量机中，存在一些特殊点使数据不像是在可分向量机中那样完全可分的，而我们的目的是让其可分。在线性支持向量机中，函数间隔都是大于等于1的，当然在这里就不行了，支持向量的函数间隔肯定是小于等于1的，因为函数间隔1是个不变的量，方便我们计算的，所以我们要给这里的函数间隔加上一个松弛变量让其大于等于1：

                                                                         

        这样的话约束条件就变成了：

                                                                    

目标函数从变成了