SVM支持向量机二（Lagrange Duality）

SVM支持向量机二（Lagrange Duality）

上一节我们得到了结论就是 Maximum margin 的化简结论：

然而我们应该怎么解决他呢，我们可以把s.t.的约束表示为gi(w)<=0,可以的把，自己看看就会了？这里就要用到 Lagrange Duality 数学知识了，不急我们下面先抛开上面的结论，至讲解一些数学知识：

1.Lagrange数学方法

2.Duality（对偶性问题）转换过程（必须满足KKT条件）

3.满足KKT条件转化 min max L（）到 max min L（）

4.为什么叫做支持向量机（Support Vector Machine）

--------------------------------------------------------------------------------------------------------------

1.Lagrange数学方法

（1）Lagrange去掉等式约束 的情况：

最大化问题带等式约束 g(X)==0 的情况：处理方法就是给约束乘以一个系数加到原命题上，然后求导得出结果：下面回顾一下本科阶段做的简单例题加深印象吧！

（2）Lagrange去掉不等式约束 的情况：

这里是不等式约束的情况，大家千万注意我画的两个红圆圈，这个对以后判断 支持向量 的点很重要，那是你就明白为什么叫支持向量机（Support Vector Machine）了

（3）Lagrange同时去掉等式约束和不等式约束 的情况：

至此Lagrange数学知识介绍完毕了！下面再进一步看看，就可以解决我们开头提出的问题了

----------------------------