3. 函数间隔 VS 几何间隔
4. 最大间隔化
5. 硬间隔SVM的算法描述
6. 支持向量
7. 硬间隔SVM例题
8. 对偶问题
9. 线性支持向量机的算法(根据对偶问题得到的)
10. 使用对偶解题例题
支持向量机(Support vector machine)
=====================================
一、概述
SVM是一种小样本学习方法。
少数支持向量决定了最终结果,对异常值不敏感, 这不但可以帮助我们抓住关键样本、“剔除”大量冗余样本,而且注定了该方法不但算法简单,而且具有较好的“鲁棒性”
SVM学习问题可以表示为凸优化问题,因此可以利用已知的有效算法发现目标函数的全局最小值
有优秀的泛化能力。
1. 支持向量机(Support vector machine, SVM)解释:
(1)支持向量(support vector):支持或支撑平面上把两类类别划分开来的超平面的向量点。
(2)“机”(机器,machine):“机”实质上是一个算法。在机器学习领域,常把一些算法看做是一个机器,如分类机(当然,也叫做分类器),而支持向量机本身便是一种监督式学习的方法,它广泛的应用于统计分类以及回归分析中。
2. SVM三宝:
(1)间隔(margin):用于建模
(2)对偶(duality):用于模型求解
(3)核技巧(kernel trick):将非线性问题转化为线性问题