第一,SVM求解最优分类器的时候,使用了L2-norm regularization,这个是控制Overfitting的关键。
第二,SVM不需要显式地构建非线性映射,而是通过Kernel trick完成,这样大大提高运算效率。
第三,SVM的优化问题属于一个二次规划(Quadratic programming),优化专家们为SVM这个特殊的优化问题设计了很多巧妙的解法,比如SMO(Sequential minimal optimization)解法。
第四,Vapnika的统计学习理论为SVM提供了很好的理论背景(这点不能用来解释为什么SVM这么popular,因为由理论导出的bound太loose)