机器学习实战（六）——SVM

支持向量机

线性分类

分类标准

考虑二分类的问题，数据点用$x$表示，这是一个$n$维向量，类别用$y$来表示，取值为-1或1(与Logistc相同)， 分别代表两个不同的类。一个线性分类器的学习目标就是要在$n$维的数据空间中找到一个分类超平面，其方程为：

$$w^Tx+b=0$$
特别的，对于二维平面，超平面方程为 $$[a\ b] \left[ \begin{matrix}x_1 \\ x_2\end{matrix}\right] + b=0$$
就是一个直线方程 $$ax_1 + bx_2 +b = 0$$

线性分类的例子

下面是一个简单的例子，一个二维平面 (一个超平面，在二维空间中的例子就是一条 直线)，如下图所示，平面上有两种不同的点，分别用两种不同的颜色表示，一种为红 颜色的点，另一种则为蓝颜色的点，红颜色的线表示一个可行的超平面。

从上图中我们可以看出，这条红颜色的线把红颜色的点和蓝颜色的点分开来了。而 这条红颜色的线就是我们上面所说的超平面，也就是说，这个所谓的超平面的的确确便 把这两种不同颜色的数据点分隔开来，在超平面一边的数据点所对应的 y 全是−1 ，而 在另一边全是 1 。
令分类函数为：

$$f(x)=w^Tx+b$$
显然，如果