( 保证能看晕系列)SVM系列(三)hard-margin 求解实例 + SMO算法 详细原理

本节主要解决怎么算拉格朗日系数的问题,和大多数的SMO算法的介绍不同的是,每一步都有详细的过程和说明。希望能对你有一定的理解上的帮助。进入本节之前,确保你已经看懂了以下内容:

SVM系列(一)hard-margin SVM 详细原理  https://blog.csdn.net/Lee_Yu_Rui/article/details/107420870

SVM系列(二)soft-margin SVM 详细原理以及一点点的kernel SVM https://blog.csdn.net/Lee_Yu_Rui/article/details/107436175

hard-margin 求解实例

到目前为止,三种SVM的原理都已经阐述明白。可能你发现,好像还没有算出来呢?先以一个简单的低维度数据为例看一下整个的求解过程,

                                                         min _{\mu} \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N} \mu_{i}y_{i}\mu_{j}y_{j}\kappa (x_{i},x_{j})-\sum_{i=1}^{N} \mu_{i}

                                                           s.t. \mu_{i} \geqslant 0        and   \sum_{i=1}^{N} \mu_{i}y_{i}=0                                         

总结KKT条件,在整个过程中的限制条件:按照(11)可得

                                                         \frac{\partial L(w,b,\mu) }{\partial w} = 0\frac{\partial L(w,b,\mu) }{\partial b} = 0,\frac{\partial L(w,b,\mu) }{\partial \mu} = 0

                                                          g(x_{i})\leqslant 0

                                                          \mu_{i} \geqslant 0

                                                         

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Lee_Yu_Rui

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值