SVM支持向量机一
经过上南京理工大学夏睿的机器学习课程,下文也主要借助了夏老师的PPT截图进行讲解 和美国 Stanford Andrew Ng Machine Learning的网络公开课的视频及PPT之后,又参照了很多网友的博客园及CSDN的博客,自己又推导了一边,相信的总结了,SVM的面纱逐渐揭开了,我也尝试着把而为空间的SVM的SMO方法的启发式学习用python编写出来了后面后附带上实验的数据和代码,SVM由于很多,想讲解的细致一点,我打算分为3-5章来讲解,逐步推进!
参考:Rui Xia‘s Homepage Machine Learning Course:http://msrt.njust.edu.cn/staff/rxia/ml/
本文一主要讲解,SVM提出的初衷。
1.最大间隔的提出
2.点到平面距离的向量表示,函数距离,几何距离
3.最大Margin的三种递进表达式(等价性)
-----------------------------------------------------------------------------------------
1.最大间隔的提出
首先我们先来看一个分类的图
从上图中,我们看到有7条红色的线都可以把两类点分的很好,但是很多时候,随着样本的增加之后,有些直线分类效果就会越来越差,例如y1,y2,y3,这3条红线,有些地方很靠近被分类的点,虽然目前分类效果很好,但是不是最理想的,我们可以看到最理想的应该是y直线,通俗的讲,就是这条直线即把点分开,又使得最靠近他的点距离直线最大
如上图就是y绿线距离圆形蓝点,和方形的红点距离最大化的情况,其中圆形蓝