L1范数误差(L1 loss)
代表:MAE(Mean Absolute Error, 均绝对误差)。即估计值 f ( x ) f(x) f(x)与真实值 y y y之间距离的均值。
M A E = 1 n ∑ i = 1 n ∣ f ( x i ) − y i ∣ MAE=\frac{1}{n}\sum_{i=1}^n|f(x_i)-y_i| MAE=n1i=1∑n∣f(xi)−yi∣
优点
- 无论对于什么样的输入值,都有着稳定的梯度,不会导致梯度爆炸问题,具有较为稳健性的解。
- 对于离群点不那么敏感。因为 M A E MAE MAE计算的是误差 y − f ( x ) y−f(x) y−f(x)的绝对值,对于任意大小的差值,其惩罚都是固定的。
缺点:MAE曲线连续,但是在 y − f ( x ) = 0