斯坦福cs231n课程记录——assignment1 SVM

最新推荐文章于 2024-01-20 22:04:36 发布

临江轩

最新推荐文章于 2024-01-20 22:04:36 发布

阅读量985

点赞数 1

分类专栏：实践文章标签： SVM

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/weixin_39880579/article/details/85218750

版权

目录

SVM原理
某些API解释
SVM实现
作业问题记录
SVM优化
SVM运用
参考文献

一、SVM原理

线性SVM分类是给每一个样本一个分数，其正确的分数应该比错误的分数大。在实际分类中，为了提高分类器的鲁棒性，我们希望正确的分数比错误的分数大得多一些，其差值为 $\Delta$ ，如图1-1所示，我们希望car的所有样本离红线更远一些（箭头方向）。该损失函数则为Hinge损失函数，其公式如下：

$L_{i} = \sum_{j\neq y_{i}} max(0,S_{j} - S_{y_{i}} + \Delta )$

$S_{i} = f(x_{i};W)=Wx_{i}$

其中， $L_{i}$ 为第i个样本的损失函数， $S_{j}$ 为第i个样本的错误分类标签的分数， $S_{y_{j}}$ 为第i个样本的正确分类标签的分数。在这里 $\Delta$ 设为1。

图1-1 — 图 1-1

训练总体损失函数为：

$L = \frac{1}{N}\sum_{i=1}^{N}L_{i}$

为了防止过拟合，用一个正则化项来衡量一个模型的复杂度。因此，其训练总体损失函数为：

$L = \frac{1}{N}\sum_{i}^{N}L_{i} + \lambda R(W) =\frac{1}{N}\sum_{i}^{N}\sum_{j\neq y_{i}}[max(0,w_{j}^{T}x - w_{y_{j}}^{T}x + 1)] +\lambda \sum_{k}\sum_{l}W_{k,l}^{2}$

最低0.47元/天解锁文章

关注

1
点赞
踩
3

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。