机器学习数学原理（7）——SVM支持向量机

机器学习数学原理（7）——SVM支持向量机

这篇博文笔者将默认读者已经了解了最优间隔分类器以及泛化拉格朗日乘子法，如果部分读者还不是很了解，我这里给出前面一篇博文的链接《机器学习数学原理（6）——最优间隔分类器》。总之，这篇博文将不会再赘述相关的知识，而是直接给出其结论。

由于笔者水平有限，如果读者发现任何不妥或者错误之处，欢迎批评指出。

1 简介

我们来看看前面最优间隔分类器的前提：线性可分的样本空间。但是很遗憾的是大部分的需要解决的问题都不是线性可分的样本空间的问题，因此SVM支持向量机算法孕育而生。

支持向量机(Support Vector Machine，SVM)是Corinna Cortes和Vapnik等于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。
在机器学习中，支持向量机（SVM，还支持矢量网络）是与相关的学习算法有关的监督学习模型，可以分析数据，识别模式，用于分类和回归分析。

在机器学习中，SVM是一个非常朴实但十分重要的算法，甚至有着举足轻重的地位。很多人都把SVM看做是机器学习中最好的分类算法。虽然这样的说法有些不妥，但逐一证明其的重要性。

SVM的核心思想便是将线