损失函数一直在波动_目标检测回归损失函数——L1、L2、smooth L1

一、 L1 Loss

1. 函数特性

L1 Loss也称为平均绝对值误差（MAE），是指模型预测值f(x)和真实值y之间绝对差值的平均值，公式如下：

其中

和

分别表示第

个样本的预测值及相应真实值，

为样本的个数。

曲线分布如下：

L1损失函数的导数是常量，有着稳定的梯度，所以不会有梯度爆炸的问题。对于离群点造成的惩罚是固定的，不会被放大。

2. 存在的问题

MAE函数虽然连续，但是在0处不可导。而且MAE的导数为常数，所以在较小的损失值时，得到的梯度也相对较大，可能造成模型震荡不利于收敛。