支持向量机入门系列-4：对偶问题

 

回忆上一节，对如下的原问题：

                                   （1）

我们定义了拉格朗日对偶函数：

然后我们证明了：，其中p*是原问题的最优值。

也就是说我们找到了原问题最优值的一个下界。既然我们找到了一个下界，显然我们要找到它最好的下界。什么是最好的下界的？显然就是所有下界当中最大的那一个。所以我们要把最大化，当然我们还要记得我们需要限制。我们把要优化的函数和约束条件正式写下来就是：

                                                  （2）

与原问题（1）相对应，我们把上面的问题（2）称作拉格朗日对偶问题（Lagrange dual problem）。显然，对偶问题的最优值d*就是我们可以获得的p*的最优下界，也就是所有下界中离p*最近的一个，它们的关系是：