线性可分支持向量机约束优化问题

线性可分支持向量机约束优化问题

在上一篇博客中对线性可分支持向量机已经作了一些介绍，讲到了它的约束优化问题。

上式中 r是几何间隔，是我们最优化的目标，r是离超平面最近的点到超平面的距离，第二个式子是限制条件，其实第二个式子的意思也就是保证求的的w和b可以让超平面将样本正确分类，并使r为最小距离。

这里再引出函数间隔r^的计算公式


这是我们的最优化函数就变成了max 1/||w||,等价于min ||w||
此时约束问题就变成了下式

现在我们要做的是求得最优解w和b。
利用拉哥朗日对偶函数即可求解，对于拉哥朗日对偶函数，以后我准备专门出一篇博客进行讲解。