支撑向量机(SVM) 算法可以看做是对logistic回归算法的一般性扩展,它们都假设训练集中的数据线性可分。支撑向量机用途广泛,更具一般性。
有一篇博文,介绍SVM非常详尽,可以参考。地址如下:
http://blog.csdn.net/v_july_v/article/details/7624837/
现摘录其中的一段话对SVM做一个总结:
不准确的说,SVM它本质上即是一个分类方法,用w^T+b定义分类函数,于是求w、b,为寻最大间隔,引出1/2||w||^2,继而引入拉格朗日因子,化为对拉格朗日乘子a的求解(求解过程中会涉及到一系列最优化或凸二次规划等问题),如此,求w.b与求a等价,而a的求解可以用一种快速学习算法SMO,至于核函数,是为处理非线性情况,若直接映射到高维计算恐维度爆炸,故在低维计算,等效高维表现。