L1 损失函数和 L2 损失函数

最新推荐文章于 2024-07-06 17:06:00 发布
最新推荐文章于 2024-07-06 17:06:00 发布
阅读量9.1k 收藏 33
点赞数 5
分类专栏： 深度学习知识点笔记 文章标签： L1 损失函数和 L2 损失函数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nanhuaibeian/article/details/103296933
版权
L1和L2损失函数是机器学习中衡量预测误差的标准。L1损失函数通过最小化绝对偏差进行误差求和，而L2损失函数则涉及平方差的总和。通常，L2损失函数是首选，但在存在异常值的情况下，L1损失函数更具优势，因为它对异常值不敏感。
摘要由CSDN通过智能技术生成

L1 和 L2 是机器学习中的两个损失函数，用于最小化误差。

L1 损失函数代表最小绝对偏差，也称为 LAD

L2 损失函数代表最小二乘误差，也称为 LS

文章目录

一、L1 损失函数

L1损失函数用于最小化误差，该误差是真实值和预测值之间的所有绝对差之和。
在这里插入图片描述

二、L2 损失函数

L2损失函数用于最小化误差，该误差是真实值和预测值之间所有平方差的总和
在这里插入图片描述

三、如何确定L1 和 L2 损失函数

通常，在大多数情况下，首选L2损失函数。
但是，当异常值出现在数据集中时，则L2损失函数的效果将不佳。这种糟糕的性能背后的原因是，如果数据集具有异常值，则由于考虑了平方差&#x

了解本专栏 订阅专栏 解锁全文
南淮北安
关注
专栏目录
订阅专栏
【损失函数：1】L1、L2、SmoothL1（附Pytorch实现）
NorthSmile的博客
09-25 8311
作者自己是做图像去雾的，平常也会看一些其他的图像恢复方向的文章，比如图像去噪、图像增强、图像去模糊以及图像超分辨等。我们知道损失函数决定了网络训练目标，对于一个任务最后可以实现的功能影响很大，这里我就想把我见过的一些损失函数进行记录，供大家学习参考。
机器学习常用loss：L1 loss、L2 loss、smothL1 loss、huber loss
qq_33278461的博客
09-11 1万+
常用loss： L1： 公式：L1=∑i=1n∣yi−f(xi)∣L1=\sum_{i=1}^{n}\left|y_{i}-f\left(x_{i}\right)\right|L1=i=1∑n​∣yi​−f(xi​)∣ 导数：dL1(x)dx={1 if x≥0−1 otherwise \frac{\mathrm{d} L_{1}(x)}{\mathrm{...
初入损失函数L1、L2损失函数
m0_52370934的博客
05-30 1036
引言：本文会说一些关于发生在L1、L2损失函数相关的事情，首先，L1、L2损失函数 1.L1损失函数 L1损失函数又称为平均绝对值误差（Mean Absolute Error,MAE ，损失函数）公式如下所示： 根据上式对真实值y求导，不难得出L1损失函数的梯度函数，如图所示： L1损失函数简化版 L1损失函数倒数 2.L2损失函数 L2损失函数又称为均方差，其公式如下： 根据上式对真...
L2损失函数
m0_51200050的博客
07-06 546
L2损失函数是一种常用的损失函数，尤其适用于回归任务。它通过平方误差来衡量预测值与真实值之间的差异，并且对较大的误差进行更强的惩罚，确保模型能够更准确地拟合数据。
L1和L2损失函数
gy_Rick的博客
07-09 1万+
L1和L2损失函数 文章目录L1和L2损失函数简介L1 损失函数L2 损失函数一个例子代码最后 简介 最近参加了某高校的夏令营面试，被问到一个基础的损失函数的概念，发现自己对于模式识别的掌握可以说不能再皮毛了。夏令营估计是凉了，还是老老实实总结经验好好学习为好，别搞那么多花里胡哨了。 L1 损失函数 说明：下面矩阵的维度使用规则 行 --> 维度，列 --> 样本数 L1 损失函数也叫平均绝对值误差（MAE），不妨设标签为 Y=(y1,y2,...ym)1×mY = (y1, y2, ...
L1损失函数与L2损失函数
weixin_44906284的博客
09-30 297
【深度学习基础知识 - 01】L1和L2损失函数的区别
yanyuxiangtoday的博客
08-18 1万+
机器学习、深度学习任务中经常提到L1和L2损失的概念，在这里简单介绍一下它们的基础概念以及区别。 基础概念 L1损失函数又称为MAE(mean abs error)，即平均绝对误差，也就是预测值和真实值之间差值的绝对值。 L2损失函数又称为MSE(mean square error)，即平均平方误差，也就是预测值和真实值之间差值的平方。 相同点 因为计算的方式类似，只有一个平方的差异，因此使用的场合都很相近，通常用于回归任务中。 差异 L2没有L1鲁棒，直观来说，L2会将误差平方，如果误差大于1，
L1损失函数和L2损失函数
06-02
L1损失函数和L2损失函数是常用的用于回归问题的损失函数。 L1损失函数也被称为绝对值损失函数，它的定义为真实值与预测值之间差值的绝对值之和。L1损失函数的优点是对异常值（outlier）不敏感，但缺点是不可导，...
l1损失函数和l2损失函数各是什么？
最新发布
09-05
L1和L2损失函数都是机器学习和深度学习中常用的代价函数，它们分别对应于不同的正则化技术： 1. **L1损失函数** (也称绝对值损失)：它计算预测值和真实值之间的差异的绝对值之和。数学表达式为：`L1(y, y_pred) = |...
AI笔记: 损失函数之L1损失、L2损失、Huber损失
Wang的专栏
04-10 2204
损失函数 之前我们知道预测残差和残差平方和，在机器学习中，我们用专门的术语叫损失函数(loss function)度量样本真实值与模型预测值之间差异 如果我们采用残差平方来作为你的损失函数的话，那我们把它称之为L2损失, 记为：L(y,y^)=(y−y^)2=r2L(y, \hat{y}) = (y - \hat{y})^2 = r^2L(y,y^​)=(y−y^​)2=r2 L表示loss，损...
详细介绍一下L1损失函数、L2损失函数和角度损失函数
04-14
L1损失函数和L2损失函数都是常见的损失函数之一，用于衡量模型预测值与真实值之间的差距。 L1损失函数计算预测值与真实值之间的绝对差值，即预测值与真实值之差的绝对值的总和。L1损失函数在处理具有异常值的数据时...
L1损失（MAE）、L2损失（MSE）
热门推荐
MOL
06-05 3万+
目录 均绝对误差(L1Loss) 均方误差MSE (L2 Loss) MSE和MAE的选择 总结 均绝对误差(L1Loss) 均绝对误差（Mean Absolute Error,MAE) 是指模型预测值f(x)和真实值y之间距离的均值，其公式如下： 忽略下标i，设n=1，以f(x)−y为横轴，MAE的值为纵轴，得到函数的图形如下： MAE曲线连续，但是在y−f(x)=0处不可导。而且 MAE 大部分情况下梯度都是相等的，这意味着即使对于小的损失值，其梯度也是大的。这不利于函数的收敛...
L1和L2损失
weixin_43837522的博客
01-24 710
因此，在不同的情况下，我们可以根据具体的需求选择使用L1损失还是L2损失。L2损失 = ((10-12)^2 + (20-18)^2 + (30-28)^2 + (40-41)^2) / 4 = (4 + 4 + 4 + 1) / 4 = 3.25。L1损失 = (|10-12| + |20-18| + |30-28| + |40-41|) / 4 = (2 + 2 + 2 + 1) / 4 = 1.75。相比于L1损失，它对异常值的影响较小，因为平方会放大较大的误差，使得模型对异常值更加鲁棒。
【损失函数】深度学习回归任务中你必须了解的三种损失函数，绝对误差损失（L1 Loss、MAE）均方误差损失（L2 Loss、MSE）以及平滑L1损失（Huber Loss）（2024最新整理）
Next_SummerAgain的博客
01-04 9144
是预测值和真实值之差的绝对值的总和。其中，是样本数量，是第个样本的真实值，是第个样本的预测值。
【深度学习】L1、L2损失 和 L1、L2正则化
u011754972的博客
08-29 3643
损失函数： L1损失：即平均绝对误差（MAE）：MAE = 1/n*∑ | yi - yi^ | L2损失：即均方误差（MSE）：MSE = 1/n*∑ (yi - yi^ )^2 正则化： L1正则化：即对权重矩阵的每个元素绝对值求和，λ * ||W|| L2正则化：即对权重矩阵的每个元素求平方和（先平方，后求和），1/2 * λ * ||W||^2 注意：正则化项不需要求平...
【回归损失函数】L1（MAE）、L2（MSE）、Smooth L1 Loss详解
Roaddd的博客
03-14 1万+
1. L1 Loss（Mean Absolute Error，MAE）        平均绝对误差（MAE）是一种用于回归模型的损失函数。MAE 是目标变量和预测变量之间绝对差值之和，因此它衡量的是一组预测值中的平均误差大小，而不考虑它们的方向，范围为 0~∞。 MAE公式如下： 导数： MAE图像如下： 主要问题：        导数为常数，在 Loss 函数最
实现L1和L2损失函数
It is me 的博客
08-01 318
import numpy as np def L1(yhat, y): loss = np.sum(np.abs(y - yhat)) return loss def L2(yhat, y): loss =np.sum(np.power((y - yhat), 2)) return loss #调用 yhat = np.array([0.1, 0.2, 0.3, 0.4, 0.5]) y = np.array([1, 1, 0, 1, 1]) prin...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

南淮北安

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值