回归任务中的评价指标MAE，MSE，RMSE，R-Squared

转自博客。仅供自己学习使用，如有侵权，请联系删除

分类任务的评价指标有准确率，P值，R值，F1值，而回归任务的评价指标就是MSE，RMSE，MAE、R-Squared

MSE

均方误差MSE是真实值与预测值的差值的平方和然后求平均。通过平方的形式便于求导，所以常被用作线性回归的损失函数。

$$MSE=\frac{1}{m}\sum _{i=1}^m{\left(y_i-{\hat{y}}_i\right)}^2$$

RMSE

均方根误差RMSE，即均方误差开平方，常用来作为机器学习模型预测结果衡量的标准。

$$RMSE=\sqrt{\frac{1}{m}\sum _{i=1}^m{\left(y_i-{\hat{y}}_i\right)}^2}$$

MAE

MAE是绝对误差的平均值。可以更好地反映预测值误差的实际情况。

$$MAE=\frac{1}{m}\sum _{i=1}^m\left|y_i-{\hat{y}}_i\right|$$

R-Squared

R-Squared又叫可决系数(coefficient of determination)，也叫拟合优度，反映的是自变量$x$对因变量$y$的变动的解释的程度。越接近于1，说明模型拟合得越好。在sklearn中回归树就是用的该评价指标。

可以这么理解：将TSS理解为全部按平均值预测，RSS理解为按模型预测，这就相当于去比较你模型预测和全部按平均值预测的比例，这个比例越小，则模型越精确。当然该指标存在负数的情况，即模型预测还不如全部按平均值预测

缺点：当数据分布方差比较大时，预测不准时，$R^2$依然比较大，此时该评价指标就不太好

$$R^2(y,\hat{y})=1-\frac{{\sum }_{i=0}^m{\left(y_i-{\hat{y}}_i\right)}^2}{{\sum }_{i=0}^m{\left(y_i-\bar{y}\right)}^2}=\frac{ESS}{TSS}=1-\frac{RSS}{TSS}$$

其中：

$TSS(TotalSumofSquares)={\sum }_{i=0}^m{\left(y_i-\bar{y}\right)}^2$

表述真实值$y$的变动程度，正比于方差

$RSS(ResidualSumofSquares)={\sum }_{i=0}^m{\left(y_i-{\hat{y}}_i\right)}^2$

表示模型预测$\hat{y}$和真实值$y$之间的残差

$ESS(ExplainedSumofSquares)={\sum }_{i=0}^m{\left({\hat{y}}_i-\bar{y}\right)}^2$

使用sklearn计算：

from sklearn.metrics import r2_score
y_true = [3, -0.5, 2, 7]
y_pred = [2.5, 0.0, 2, 8]
r2_score(y_true, y_pred)
0.948...

MAPE

$$MAE=\frac{1}{m}\sum _{i=1}^m\left|{\hat{y}}_i-y_i\right|$$

$$MAPE=\frac{100\%}{m}\sum _{i=1}^m\left|\frac{{\hat{y}}_i-y_i}{y_i}\right|$$

MAE:
范围 $[0,+\infty )$, 当预测值与真实值完全吻合时等于0, 即完美模型; 误差越大, 该值越大。

MAPE:
范围[0,+$\infty$), MAPE 为0%表示完美模型， MAPE大于100%则表示劣质模型。MAPE的值越小，说明预测模型拥有更好的精确度.