机器学习——支持向量机

前言：本篇文章只是简单的对支持向量机(support vecotor machine)简单的介绍，后续文章还会一一进行数学原理推导(其实我也没有想到这篇文章会有这么高的展现量（其实也就几百），所以就打算进一步介绍SVM)。

硬间隔与支持向量
软间隔与正则化，核函数

---

一、支持向量机

---

• 支持向量机（Support Vector Machine, SVM）是一类按***监督学习（supervised learning）方式对数据进行 二元分类 的广义线性分类（generalized linear classifier），其 决策边界是对学习样本求解的最大边距 超平面（maximum-margin hyperplane）

ps：加粗的都是专业名词，感兴趣的话可以了解下。

---

二，简单了解SVM

• 基本原理：基于统计学习理论的方法，是一个二分类的问题。

• 要了解SVM我们要知道超平面这个东西。

• 超平面：在几何中，超平面指的是比所处空间少一个维度的子空间。

例子：零维的点可以把一维的线分成两部分，一维的线可以把二维的面分成两部分，二维的面可以把三维的体分成两部分。

其实下图中间的那条实现就是我们超平面，但是我个人更喜欢把这种简单的二维二分类的超平面叫做决策边界。

图片可能看的不是很清楚，其中$w$是法向量，x也是向量，我会在后续的文章中推导。

至于这两条虚线就是我们的样本中最接近超平面的平行面，我们暂且把这两条虚线的距离叫做 ∣ H 1 H 2 ∣ |H_1H_2| ∣H1​H