svm损失函数

SVM(支持向量机)与softmax的区别主要在于损失函数。本文通过公式阐述了SVM的损失函数,并讨论了四个关键问题:1) 是否能去掉j≠yij≠yi的条件;2) 求和改为取平均的影响;3) 类间距是否求平方的差异;4) w为0时的损失函数值。这些问题的解答有助于理解SVM损失函数的本质和超参数选择。
摘要由CSDN通过智能技术生成

SVM(支持向量机)和softmax的区别在于损失函数的不同,用公式可以描述为:


其中 syi 表示真实类别的得分,sj  表示其他类别的得分。Δ 表示为边界值,Li 表示某输入图像的损失值

根据损失函数做如下讨论:

1.如果在累加时去掉j≠yij≠yi 的条件,是否可行? 

答案显而易见,不可行。这样损失值永远大于0,最小也为ΔΔ

2.如果将求和改为取平均,是否有影响? 

答案没有,虽然损失函数的大小改变,但是是常量倍数的变化,本质上没有区别

3.如果将类间距求平方是否不同? 

答案是肯定的,而这里是否用平方也是一个超参

4.当ww 为0时,损失函数为多少? 

通常情况下,在代码开始一般采用该方式计算损失函数的数值,从而验证损失函数是否书写正确
https://blog.csdn.net/lanmengyiyu/article/details/78822143

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

贾世林jiashilin

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值