支持向量机原理（超详细）

支持向量机（SVM）是机器学习算法之一，是二分类算法。给定一组训练样本集，如图，样本数据集是二维的，分散在平面上，需要找到一条直线将数据集分割开。可以分开的直线有很多，我们要找到其中泛化能力最好，鲁棒性最强的直线。这是在平面上的点，如果是在三维空间中，则需要找到一个平面；如果是超过三维以上的维数，则需要找到一个超平面。

超平面的表达式为：

原理举例：wT取（w1,w2），x取（x1,x2）T， 则原式得 w1x1+w2x2+b=0 与传统直线 Ax+By+c=0 方程式
相同，由二维三维空间推到更高维平面的一般式即为上式。
W：为平面法向量，决定了超平面的方向
b: 决定了超平面距原点的距离
法向量与样本属性的个数、超空间维数相同。在超空间中我们要求的参数就是决定超平面的W和b值。

在超空间中任意一点x到超平面的距离为：

我们可以由特殊到一般的理解一下这个式子，如果在二维空间即平面上，点到直线的距离为：

式子中A,B，C是直线的参数也就是W，x0和y0是x的坐标，这样r式是不是就好理解了，这个距离是