机器学习笔记 SVM

个人学习笔记

• 函数间隔

  

 

 

但是呢，函数间隔有个问题，

于是产生了几何间隔这个概念。

•  

   

  几何间隔

  

 

硬间隔最大化:

对线性可分的训练集而言,这里的间隔最大化又称为硬间隔最大化.直观解释是对训练集找到几何间隔最大的超平面意味着以充分大的确信度对训练数据进行分类.求最大间隔分离超平面即约束最优化问题:

,

将几何间隔用函数间隔表示

,

并且注意到函数间隔的取值并不影响最优化问题的解,不妨令函数间隔=1,并让最大化1/||w||等价为最小化||w||^2/2,问题变为凸二次规划问题

.

reference：

https://www.cnblogs.com/limitlessun/p/8611103.html#_label6

https://www.jianshu.com/p/45b3a4f94129