目录
一、理论基础
支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类的广义线性分类器(generalized linear classifier),其决策边界是对学习样本求解的最大边距超平面(maximum-margin hyperplane)。SVM使用铰链损失函数(hinge loss)计算经验风险(empirical risk)并在求解系统中加入了正则化项以优化结构风险(structural risk),是一个具有稀疏性和稳健性的分类器。SVM可以通过核方法(kernel method)进行非线性分类,是常见的核学习(kernel learning)方法之一 。
SVM是在1995年提出来的,它在小样本、非线性及高维样本分类中具有很强的优势。在线性可分的两类分类问题中,我们希望找到一个最佳平面,使得两个类的数据点间隔最大,我们称这个平面为最大间隔超平面。SVM就是通过寻找这样一个最大间隔超平面来构造决策函数,如图5-1所示。