支持向量机（SVM）中的对偶问题

前言

在SVM中有一个求极小值的问题转换过程，转换为一个对偶问题，但是我不太清楚这个问题为什么可以转换，而且还不太清楚为什么这么转换？不太明确转换后有什么优点，写个文章来了解这些内容。

原始问题转换

$$\begin{gathered} \min \frac{1}{2}||w|{|}^2 \\ s.t.y_i(x_i+b)>=1\text{i=1,2...,n} \end{gathered}$$
拉格朗日乘子之后的公式为：
$$\begin{gathered} F(w,b,a)=\frac{1}{2}||w|{|}^2+\sum _{i=1}^n{a}_i[1-y_i(w{x}_i+b)] \\ s.t.a_i>=0 \end{gathered}$$
优化问题为：
$$\min F(w,b,a)=\frac{1}{2}||w|{|}^2+\sum _{i=1}^n{a}_i[1-y_i(w{x}_i+b)]$$

• 有一个疑惑，为什么是$1-y_i(w{x}_i+b)<=0$?
  这样可以把$a_i>0$作为约束条件，小于0 乘以-1就可以非常方便的转换过去。

我们假设有一个最优解$w^{\ast }$，则得到最小值$f(w^{\ast })=\frac{1}{2}||w^{\ast }|{|}^2$，则会发现一些：
$$\min F(w^{\ast },b,a)<=f(w^{\ast })$$
最优解$w^{\ast }$，使得$1-y_i(w{x}^{\ast }+b)<=0$，则${\sum }_{i=1}$