支持向量机简介和代码实践

支持向量机（Support Vector Machine, SVM）是一类按监督学习（supervised learning）方式对数据进行二元分类的广义线性分类器（generalized linear classifier），其决策边界]对学习样本求解的最大边距超平面（maximum-margin hyperplane）

通俗地说，SVM在众多实例中寻找一个最优的决策边界，这个边界上的实例叫做支持向量，它们“支持”（支撑）着超平面，所以它叫支持向量机。

线性可分

在二维空间上，两类点被一条线分隔开称为线性可分。

在n维空间中，要分开两个线性可分的点集合，我们需要找到一个超平面（Hyper Plane）。

最大间隔超平面

为了使这个超平面更具有鲁棒性，我们需要寻找到一个最大间隔把两类点分开的超平面，称为最大间隔超平面。

该超平面到两类点的最近点的距离最大，且两类点分布在超平面的两侧。

支持向量

样本中距离超平面最近的一些点，这些点叫做支持向量

SVM最优化问题

SVM 想要的就是找到各类样本点到超平面的距离最远，也就是找到最大间隔超平面。任意超平面可以用下面这个线性方程来描述：
$$w^{T}x+b=0$$
n维空间中存在点
( x 1 , x 2 , . . . x n ) (x_1,x_2,...x_n) (x