五、SVM推导过程

 

SVM

  时间复杂度一般为O(N³)

  最重要的是推导过程

  NIPS(机器学习顶级会议)

 

  如果给定一个训练集,我们的目标是给定一个边界(一条线),离他最近的训练集样本路越宽越好

下面的几张图反映了SVM的推导过程,可惜,这个文本编辑框不太熟,没法解释具体个中过程,只好

  先说中间涉及的各个知识。

 KEY IDEAS

 推导过程:

  

 

                图(1)

 

  涉及到向量的投影,,以中间距离正负样本点几乎等宽的粗线为分界线 l,从原点引出一条向量W,垂直于 l,X正为正样本点,

X负为负样本点,大于1为正,小于1为负,以此分开。

 

   

 

                图(2)

     将图(1)中右侧两个式子合并,得到②式,X为样本区域附近

 

  

                 图(3)

  向量W的max是(正样本点-负样本点)*单位1,WIDTH的式子展开,将左下角的②式带入,

消元,只剩下2倍的向量W的长度值。

 

   

                 图(4)

  转化成求左下角的式子。。。

 

  

 

                     图(5)

  上图此处要用到多元偏导的知识,求极值,得出方框里的值

 

 

  

                     图(6)

  化简后的值。

 

   

                 图(7)

  终极BOSS!

 

核函数的作用: 将高维映射为低维,这一点涉及的知识点比较系统,有时间的话,重新整理发布一下,^_^

 

                图(8)

 

   

                 图(9)

 

 

转载于:https://www.cnblogs.com/qianyuesheng/p/8453881.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值