机器学习中常用损失函数总结

本文详述了机器学习中回归与分类任务下常用的损失函数,包括L2、L1、Huber、Log-Cosh、分位数损失函数等回归任务函数,以及交叉熵、Focal loss、Hinge、Square、Logistic和Exponential损失函数在分类任务的应用。通过理解这些损失函数,有助于优化模型性能。
摘要由CSDN通过智能技术生成

损失函数通常用于评价机器学习模型的好坏,根据机器学习任务的不同,本文总结分别总结回归和分类场景下常用的损失函数。

回归任务下常用损失函数

  1. L2损失函数(均方误差MSE)
    M S E = ∑ i = 1 n ( y i − y i p ) 2 MSE = \sum_{i=1}^{n} {(y_i-y{_i^p})^2} MSE=i=1n(yiyip)2
  2. L1损失函数(平均绝对误差MAE)
    M A E = ∑ i = 1 n ∣ y i − y i p ∣ MAE = \sum_{i=1}^{n} {|y_i-y{_i^p}|} MAE=i=1nyiyip
  3. Huber损失函数(平滑平均绝对误差)
    L δ ( y , f ( x ) ) = { 1 2 ( y − f ( x ) ) 2 , for ∣ y − f ( x ) ∣ ≤ δ , δ ∣ y − f ( x ) ∣ − 1 2 δ 2 , otherwise. L_\delta(y,f(x)) = \begin{cases} \frac{1}{2}(y-f(x))^2, & \text{for}|y-f(x)|\leq\delta, \\ \delta|y-f(x)|-\frac{1}{2}\delta^2, & \text{otherwise.} \end{cases} Lδ(y,f(x))={ 2
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值