支持向量机算法（SVM）详细讲解(含手推公式）（《机器学习》--周志华）

#前言

    本人是一个本科到研究生都坚持本专业的人，但是，本科时间被狗吃了，目前还是小白一只，曾经以为考研之后要继续学习一技之长找个工作养活自己，当然，现在发现这都是自己想太多了，哈哈哈，读研之后才知道基础不好的人学习起来是多么困难，但是，既然选择了，哭着也要拿到毕业证啊。
     因为被老师安排讲解SVM算法并且推到公式，于是花了一些时间来研究和推到了SVM算法的公式。可能写的不够全，也可能由一些错的地方，第一次写博客，望多多指教。哈哈哈，说太多没用的，开始来看一下SVM吧！！

今天的内容：

• 间隔与支持向量机
• 对偶问题
• 核函数
• 软间隔
• 支持向量回归

# 间隔与支持向量机

    支持向量机（support vector machines,SVM)是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机。

    给定训练数据集$D=${ $(x_1,y_1),(x_2,y_2),...,(x_m,y_m)$},$y_i\in${-1,+1},分类学习器最基本的想法就是基于训练集D在空间中找到一个划分平面，能够将不同的样本分开。如下图所示【图片来源网络】，在一个这个样本空间中，我们可以找到很多条划分平面能够将两类样本正确的分开，那么我们应该选择哪一条呢？或许你会说，当然是正中间那一条了，没错，如果你这么想，那么你已经知道SVM是用来干什么的了。

    正如你所想的，我们需要选择正中间的这条直线（图中红色的直线）作为我们的划分平面，因为这条直线的容错能力和泛化能力比较强，也就是说，当我们在样本空间中再增加一些样本，此时就会有很多划分平面不能再将样本正确的分开，而正中间这一条直线却还能正确的将样本区分开。我们的SVM算法就是要找到这样一个划分平面，使其能够将不同样本正确的分开并且对训练样本局部扰动的“容忍”性最好。     上述中提到的划分平面在SVM中就称为**超平面**，可以通过如下的线性方程来描述：

$${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=0\text{\hspace{1em}(1)}$$
其中，$\mathbf{w}=$$(w_1,w_2,...,w_d)$为法向量，决定超平面的方向，b为偏移项，决定超平面与原点之间的距离。划分超平面可记为$({\mathbf{w}}^{\mathbf{T}},b)$，样本空间中任意一点x到超平面的距离可写为：
$$r=\frac{|{\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b|}{||w||}.\text{\hspace{1em}(2)}$$
这个距离怎么得到的呢？下面请看我的推导：其中x是样本空间中任意一个样本，$x_0$是x再超平面上的投影，因此有${\mathbf{w}}^{\mathbf{T}}{\mathbf{x}}_0+b=0$，r为x到超平面的距离。

    假设超平面$(\bm{w^T},b)$能将训练样本正确分类，即对于任意的$(x_{i},y_{i})∈D$，若$y_{i}=+1$,则有$\bm{w^Tx}+b>0$；若$y_{i}=-1$,则有$\bm{w^Tx}+b<0$。我们令

$$\{\begin{array}{rl}{\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b\ge & +1,y_i=+1\\ {\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b\le & -1,y_i=-1\end{array}\text{\hspace{1em}(3)}$$

为什么可以这样写呢，而不是写成下面这样呢？

$$\{\begin{array}{rl}{\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b\ge & 0,y_i=+1\\ {\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b\le & 0,y_i=-1\end{array}\text{\hspace{1em}(4)}$$
其实我们也是为了解释SVM的原理，同时也易于后面的计算和理解，下面来看一下下图【图片来源网络】：

我们可以从图中看出，式（3）表示的是，当样本属于正例时，样本就落在直线${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=1$上方；当样本属于反列时，样本就落在直线${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=-1$下方。我们要找的不是中间那条超平面吗，为什么还要这两条直线呢？这里，我先引入两个概念。
    在样本空间中，总会有一些正例样本和反例样本距离超平面是最近的，这些样本点我们就称为”支持向量“（support vector），而过这些支持向量且平行于超平面的直线就是我们我们图中的两条直线${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=1$和${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=-1$。两个异类支持向量到超平面的距离之和为
$$r=\frac{2}{||w||}\text{\hspace{1em}(5)}$$
它被称为”间隔“(margin)。

    你可能还有疑问，为什么支持向量间隔边界为什么就一定是${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=1$和${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=-1$呢？这里原则上说，这两条直线可以是${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=k$和${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=-k$，这里我们的可以两边同时乘以$\frac{1}{k}$，然后令${\mathbf{w}}^{\mathbf{T}}=\frac{1}{k}{\mathbf{w}}^{\mathbf{T}}$,再令$b=\frac{1}{k}b$，这时候我们就得到图中的边界直线${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=1$和${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=-1$，而超平面依然是${\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b=0$，因此在这里，我们只是对w和b进行变换了。

    公式（5）我们怎么得到的呢？在前面我们就知道，我们需要找一个在两个异类正中间的超平面，这里我们就知道，两个异类的支持向量到超平面的距离是相等的，而对任意支持向量$x_i,都有$$|{\mathbf{w}}^{\mathbf{T}}\mathbf{x}+b|=1$，将其带入式（2），得到支持向量到超平面的距离都为：$r=\frac{1}{||w||}$，间隔等于支持向量到超平面的2倍，也就是式（5）。
    支持向量机的目标就是找到”最大间隔“(maximum margin)的划分超平面，也就是找到能够找到满足式（3）中约束的参数$\mathbf{w}$和b，使得$r$最大，即
$$\begin{gathered} \underset{w,b}{\max }\frac{2}{||w||} \\ s.t{y}_i({\mathbf{w}}^{\mathbf{T}}{\mathbf{x}}_{\mathbf{i}}+b)\ge 1，i=1,2,...,m\text{\hspace{1em}(6)} \end{gathered}$$
    为了最大化间隔，仅需要最大化$||\mathbf{w}|{|}^{-1}$，这等价于最小化$||\mathbf{w}|{|}^2$，于是目标方程写成
$$\begin{gathered} \underset{w,b}{\max }\frac{1}{2}||\mathbf{w}|{|}^2 \\ s.t \end{gathered}$$