均方误差（MSE）、平均绝对误差 (MAE)

一、均方误差（MSE）

MSE 计算模型的预测 Ŷ 与真实标签 Y 的接近程度，MSE 是 ML 回归模型（例如线性回归）中常用的统计度量和损失函数。

需要注意的是MSE与方差的计算公式比较相似，但它们的统计意义差别很大。

• 方差是计算一组数本身的离散程度，而所谓离散，是指每个数据和本组数据的平均值的距离（即差值），因此，方差越大，表示数据本身的离散程度越大。
• MSE处理的是回归模型对因变量的预测值，和实际观测的因变量数值的差异，数值大，意味着预测的值越不准确（因为预测值距离观测到的数值很远）。

二、平均绝对误差 (MAE)

MAE指的就是模型预测值 f(x) 与样本真实值 y 之间距离的平均值，是 ML 回归模型中另一种常用的统计度量和损失函数。

然而，MAE更新的梯度始终相同，即使对于很小的损失值，梯度也很大。这样不利于模型的学习。