SVM算法

摘要：SVM（支持向量机）算法是一种典型的监督式学习算法。介绍SVM算法的思想和应用。

关键词：机器学习   SVM    支持向量机

SVM（Support Vector Machine）支持向量机，简称SV机，一种监督式学习算法，广泛地应用于统计分类和回归分析中。

SVM算法的思想可以概括为两点。

第一点：SVM是针对线性可分情况进行分析，对于线性不可分的情况，通过使用非线性映射算法将低维输入空间线性不可分的样本映射到高维特征空间使其线性可分，从而使得高维特征空间采用采用线性算法对样本的非线性特征进行线性分析成为可能。

第二点：SVM基于结构风险最小化理论在特征空间中构建最优分割超平面，使得学习器全局最优化，并且在整个样本空间的期望风险以某个概率满足一定上界。

SVM算法的主要优点：

1 可以解决小样本情况下的机器学习问题

2 可以提高泛化性能

3 可以解决高维问题

4 可以解决非线性问题

5 可以避免神经网络结构选择和局部极小点问题

总之，SVM建立在VC维理论和结构风险最小原理之上，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折中，以获得最佳的推广能力。