支持向量机（SVM）公式推导

假设一堆训练数据的正负样本标记为 

假设有一个超平面H：  ，可以通过此线性方程划分，同时存在两个平行于H的超平面H1和H2：

超平面H能够正确分类，也就是满足如下约束：

即：

            （1）

离H最近的正负样本刚好分别落在H1和H2上使等号成立，它们就是支持向量。

而超平面H1和H2的距离可知为（注：线到线的距离公式求得）：

  

 

SVM目标找到具有“最大间隔”的划分超平面。即找到满足（1）的约束条件的参数w,b，使得r最大。显然，最大化间隔r，也就是最小化。于是可以构造如下的条件极值问题：