Huber Loss

最新推荐文章于 2024-01-04 11:32:08 发布
最新推荐文章于 2024-01-04 11:32:08 发布
阅读量541 收藏 1
点赞数
分类专栏： 人工智能 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zimiao552147572/article/details/104631253
版权

日萌社

人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）

Huber Loss

Huber Loss 是一个用于回归问题的带参损失函数, 优点是能增强平方误差损失函数(MSE, mean square error)对离群点的鲁棒性。

  • 当预测偏差小于 δ 时，它采用平方误差,
  • 当预测偏差大于 δ 时，采用的线性误差。

相比于最小二乘的线性回归，Huber Loss降低了对离群点的惩罚程度，所以 Huber Loss 是一种常用的鲁棒的回归损失函数。

Huber Loss 定义如下：

あずにゃん
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Huber稳健估计
10-16
public HuberLoss(double k) { _k = k; } public double Calculate(double y, double f) { if (Math.Abs(y - f) ) return 0.5 * Math.Pow(y - f, 2); else return _k * (Math.Abs(y - f) - 0.5 * _k); }...
Huber_Loss_Least_Squares_BRDF_nihe.py
11-27
Huber_Loss_Least_Squares_BRDF_nihe.py
机器学习_LGB自定义huber loss函数
大道至简
11-08 2413
很多时候为了达到更好的训练效果我们需要改变损失函数
模型训练——Loss函数 归纳汇总
wsy1234567890的博客
11-24 7275
上一篇文章《语音降噪模型归纳汇总》是在知乎写的第一篇文章，很意外地收到了点赞收藏和关注，如此的反馈给了我极大的鼓舞，这里就再梳理了一下loss函数相关的知识，以求方便能作为一份工具性质的文章展现出来。能力一般，水平有限，欢迎大家指正。 干货分享：欢迎收藏点赞加关注 目录 前言 什么是损失（Loss）？ 预测值（估计值）与实际值（预期值、参考值、ground truth）之间会存在差异, “损失”意味着模型因未能产生预期结果而受到的惩罚。 损失函数的作用？ 损失函数将通过比较模型的预测输出和预期输出来确定
回归模型常见的损失函数
木东的博客
08-25 2915
注意：如果图片不显示，请建议科学上网或者使用VPN。 机器学习中的所有算法都依赖于最小化或最大化函数，我们将其称为“目标函数”。最小化的函数组称为“损失函数”。损失函数是衡量预测模型在能够预测预期结果方面的表现有多好的指标。寻找最小值的最常用方法是“梯度下降”。想想这个函数的作用，如起伏的山脉和梯度下降就像滑下山到达最低点。 没有一种损失函数适用于所有类型的数据。它取决于许多因素，包括异常值的存在，机器学习算法的选择，梯度下降的时间效率，易于找到衍生物和预测的置信度。 损失函数可大致分为两类：分类和回归
c++ log函数_DL知识拾贝（Pytorch）(三)：DL元素之二：损失函数
weixin_39793098的博客
11-27 558
知识导图对于一个深度学习的训练过程，可以将它描述为让网络输出值和实际值越来越接近的过程。我们通过训练优化器来完成这个过程，还需要一个评估函数来为我们的优化器指明方向。这个评估函数用来估量模型的预测值和真实值的不一致程度，也就是所谓的损失函数。 Loss函数有很多，并且在很多的深度学习任务中，有时候是需要我们自行去根据任务相关来设计Loss函数的。1. 回归任务中的损失函数1.1 MA...
【机器学习】损失函数(Loss Function)全总结(2023最新整理)关键词：Logistic、Hinge、Exponential、Modified Huber、Softmax、L1、L2正则化
热门推荐
Next_SummerAgain的博客
03-15 1万+
【机器学习】损失函数(Loss Function)全总结(2023最新整理) 关键词：Logistic、Hinge、Exponential、Modified Huber、Softmax、L1、L2正则化
深度学习loss函数优化
11-06
Huber Loss结合了MSE和MAE的优点，对中间误差较小的部分采用平方误差，对较大误差部分采用绝对误差。这使得它在处理噪声数据时表现更稳定。 6. Kullback-Leibler Divergence (KL散度) KL散度常用于衡量两个概率分布...
04_Loss_Functions_in_Linear_Regressions_loss_损失函数_
09-30
4. Huber损失，是一种结合了MSE和MAE优点的平滑损失函数，对于小误差，它接近MSE；对于大误差，它接近MAE，降低了对异常值的敏感性。 5. 马氏距离（Mahalanobis Distance）是一种考虑了数据协方差的度量方式，尤其...
loss计算器
06-17
4. Huber损失：结合了均方误差和绝对误差的优点，对离群值有一定的鲁棒性。 5. Hinge损失：主要用于支持向量机(SVM)，最大化正确类别和错误类别的间隔。 在GUI（图形用户界面）方面，这个工具可能使用了Tkinter、...
【损失函数】深度学习回归任务中你必须了解的三种损失函数，绝对误差损失（L1 Loss、MAE）均方误差损失（L2 Loss、MSE）以及平滑L1损失（Huber Loss）（2024最新整理）
最新发布
Next_SummerAgain的博客
01-04 8234
是预测值和真实值之差的绝对值的总和。其中，是样本数量，是第个样本的真实值，是第个样本的预测值。
机器学习——损失函数
qq_41566819的博客
12-22 1698
损失函数(loss function)又称为误差函数(error function)，是衡量模型好坏的标准，用于估量模型的预测值与真实值的不一致程度，是一个非负实值函数。损失函数的一般表示为L(y,f(x))，用以衡量真实值y与预测值f(x)不一致的程度，一般越小越好。
如何选择回归损失函数
qq_34555202的博客
09-07 3847
无论在机器学习还是深度领域中,损失函数都是一个非常重要的知识点。损失函数（Loss Function）是用来估量模型的预测值 f(x) 与真实值 y 的不一致程度。我们的目标就是最小化损失函数，让 f(x) 与 y 尽量接近。通常可以使用梯度下降算法寻找函数最小值。 损失函数有许多不同的类型，没有哪种损失函数适合所有的问题，需根据具体模型和问题进行选择。一般来说，损失函数大致可以分成两类：回归（...
Keras常用分类损失函数
Forskamse's Blog
04-21 6808
本文研究Keras自带的几个常用的Loss Functions。 categorical_crossentropy VS. sparse_categorical_crossentropy 先看categorical_crossentropy和sparse_categorical_crossentropy。 categorical_crossentropy sparse_categorical_...
建模之常见损失函数（Keras, Sklearn, R）
allen的博客
08-16 1176
序号 概况 表达式 场景 sklearn keras R 1 交叉熵 H(p,q)=∑x(p(x)×log(1q(x)))=∫xP(x)×log(Q(x))dxH(p, q)=\sum_x(p(x) \times \text{log}(\frac{1}{q(x)})) = \int_x P(x) \times \text{log}(Q(x))\mathrm{d}xH(p,q)=∑x​(p(x)×log(q(x)1​))=∫x​P(x)×log(Q(x))dx−log(p(y∣y^))=−(y...
深度学习剖根问底：各种Loss大总结
BigCowPeking
09-08 8837
1. 指数损失函数（Adaboost） 学过Adaboost算法的人都知道，它是前向分步加法算法的特例，是一个加和模型，损失函数就是指数函数。在Adaboost中，经过m此迭代之后，可以得到fm(x): Adaboost每次迭代时的目的是为了找到最小化下列式子时的参数α和G： 而指数损失函数(exp-loss）的标准形式如下 可以看出，Adaboost的目标式子就是指数损失，在...
SLAM（重要知识点）
lv15076050705的博客
03-22 2718
SLAM相关知识点部分总结
huber loss
07-28
Huber loss是一种用于回归问题的损失函数，它结合了均方误差（MSE）和平均绝对误差（MAE）的特点。它在预测值与真实值之间的差距较小时使用MSE，而在差距较大时使用MAE。 具体地说，Huber loss定义如下： L(y, f(x...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

あずにゃん

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值