支持向量机入门

支持向量机（SVM，Support Vector Machine）：将数据集映射到多维空间中，然后寻找一个超平面将数据分开。——只要原始空间是有限维，就一定存在一个高维特征空间使样本可分。
那么问题来了，怎么找这个超平面呢？

如图，显然超平面最理想的就是绿色的那条（二维空间超平面就是条线，n维空间超平面是n-1维），因为它的泛化能力最强，健壮性最好；或者说，在如图两种分类中，要寻找距离这条线最近的点，在此基础上，让这些点距离这条线尽可能远，这样这条线就在中间了。
这个超平面可以通过如下线性方程描述：

$$w^Tx+b=0$$
其中 $w$是法向量，决定超平面的方向， $b$是位移项，决定超平面和原点的距离。
（直线方程 Ax+By+C