对于回归而言,模型性能的好坏主要体现在拟合的曲线与真实曲线的误差。主要的评价指标包括:拟合优度/R-Squared,校正决定系数(Adjusted R-square),均方误差(MSE),均方根误差(RMSE),误差平方和(SSE),平均绝对误差(MAE),平均绝对百分比误差(MAPE)。
1、均方误差(MSE)
均方误差是指:观测值与真值偏差的平方和与观测次数的比值
公式:
MSE相当于模型中的损失函数,线性回归过程中尽量让该损失函数最小。那么模型之间的对比也可以用它来比较。MSE可以评价模型的预测精度,MSE的值越小,说明预测模型对于目标的拟合程度越精确。
2、均方根误差(RMSE)
RMSE(Root Mean Squard Error)均方根误差,RMSE其实是MSE开根号,两者实质一样,但RMSE能更好的描述数据。因为MSE单位量级和误差的量级不一样,而RMSE跟数据是一个级别的,更容易感知数据。
缺点:易受异常值的影响。
公式:
3、平均绝对误差(MAE)
MAE(Mean Absolute Error)
公式:
4、平均绝对百分比误差(MAPE)
平均绝对百分比误差(Mean Absolute Percentage Error),与RMSE相比,更加鲁棒,因为MAPE对每个点的误差进行了归一化。
公式:
5、拟合优度/R-Squared
拟合优度是指回归直线对观测值的拟合程度。
公式:
R2 越接近于1,说明回归直线对观测值的拟合程度越好;相反,R2值越小,说明回归直线对观测值的拟合程度越差。
6、校正决定系数(Adjusted R-square)
公式:
其中,n为样本数量,p为特征数量。
取值范围还是负无穷到1,大多是 0~1,且越大越好