机器学习:SVR支持向量机回归

                                     机器学习:SVR支持向量机回归


     一直以来接触的都是支持向量去做分类,这里稍微谈一下SVR,就是用支持向量去做回归。SVR最回归在本质上类似于SVM,都有一个margin,只不过是这里的margin表示和SVM是不相同的,完全相反。在SVM中的margin是想把两个class分开,而这里SVR的margin是说:在margin里面的的数据是不会对对回归有任何的帮助,也就是没有贡献,说白了就是这里的数据我们认为他就是正确的,不用对margin里面的书data进行惩罚。


   上图所示的就是最小二乘,为了和前面的SVM进行区分,回归一下SVM的表达式



    SVM的表达式里面的就是对分类正确和分类错误进行不同的惩罚。相同之处就是用的都是L2正则化。哈哈,这样的好处就是可以上高斯核嘛。如下图所示:


    

      对于SVR我们在求偏导之后的得到参数β是这样的


     

      你会发现,如此的简洁,并不像我们谈到的逻辑帝回归那样需要迭代,并且这里的最终结果总是可逆的,唯一的不足就是时间复杂度,数据样本的三次方啊,三次方啊。要是有一千个数据样本你怎么办?所以和罗斯蒂回归相比较,SVR在数据样本相对比较大的时候几乎是一个灾难,而罗斯蒂回归在数据的维度很大的时候是一个灾难。

   更加具体的参考这里


  • 5
    点赞
  • 43
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值