svm

Tricks    

    1. 对于二分问题，假设存在线性超平面将样本区分 

         2.在此情况下，合理的可要求在几何间距最大

         3.此时问题转化为QP问题，有现成的解法，但还有更高效的，于是乎通过拉格朗日对偶和KKT条件得到对偶问题

此处省略一坨证明和推导。

          4. 同样对于特征太多的情况，还是很费时间，于是有SMO算法

标注：

1. 由于svm设计是针对二分类，多分类还需一些技巧，不再累赘；

2. 同样对于不是线性可分的，可使用核函数，将原始特征映射到高维函数空间，推导类似线性可分将 <x, x> 变为 <phi(x), phi(x)> ,其中 phi(x)为核函数；

3. 本文主要参考http://blog.csdn.net/v_july_v/article/details/7624837 , 我这儿只不过是借花献佛，哈哈哈。