机器学习-支持向量机 -- 硬间隔SVM(1)

3. 函数间隔 VS 几何间隔

4. 最大间隔化

5. 硬间隔SVM的算法描述

6. 支持向量

7. 硬间隔SVM例题

8. 对偶问题

9. 线性支持向量机的算法（根据对偶问题得到的）

10. 使用对偶解题例题

---

支持向量机（Support vector machine）

=====================================

一、概述

---

SVM是一种小样本学习方法。

少数支持向量决定了最终结果，对异常值不敏感, 这不但可以帮助我们抓住关键样本、“剔除”大量冗余样本,而且注定了该方法不但算法简单，而且具有较好的“鲁棒性”

SVM学习问题可以表示为凸优化问题，因此可以利用已知的有效算法发现目标函数的全局最小值

有优秀的泛化能力。

1. 支持向量机(Support vector machine, SVM)解释：

（1）支持向量（support vector）：支持或支撑平面上把两类类别划分开来的超平面的向量点。

（2）“机”（机器，machine）：“机”实质上是一个算法。在机器学习领域，常把一些算法看做是一个机器，如分类机（当然，也叫做分类器），而支持向量机本身便是一种监督式学习的方法，它广泛的应用于统计分类以及回归分析中。

2. SVM三宝：

（1）间隔（margin）：用于建模

（2）对偶（duality）：用于模型求解

（3）核技巧（kernel trick）：将非线性问题转化为线性问题