SVM是解决什么问题的:分类
如何解决呢:SVM有三宝,间隔最优化、对偶、核技巧。本文讲讲间隔。
1.线性可分
2.超平面
3.最大间隔超平面
4.支持向量
5.svm间隔最优化问题
6.间隔最优化如何计算
1.什么是线性可分?
二维里,两类点被一条直线完全分开。
2.什么是超平面?
Wx+b=0;
一条直线往高维空间上的扩展。
3.什么是最大间隔,或者叫最佳超平面?
两类样本分别在超平面两侧,以最大间隔把两类样本分开的超平面,是最佳超平面。
4.什么是支持向量
距离超平面最近的点。两红一篮,这样的三个点称为支持向量。
最近的一些样本点到超平面的距离最大化,不是所有点。
5.svm最优化问题是什么?
所有样本点到超平面的距离最远。
6.如何计算
任意超平面可以用下面的线性方程来描述。
6.1二维超平面
点到直线距离公式
6.2 N维超平面
点到超平面距离公式
6.3 支撑向量到超平面的距离最大化
6.4 为了计算方便,最后公式为
7总结:
- 什么是SVM ?三宝。
- 什么是支持向量?两个红点一个蓝点 离超平面最近的点。
- SVM最优解是什么? 两条蓝线margin最大