模型评估指标——均方误差(MSE)与RSquared

作者：禅与计算机程序设计艺术

1.背景介绍

在机器学习领域中，模型的好坏通常通过模型的性能指标衡量。这些性能指标有很多种，本文将讨论两种最常用的模型评估指标——均方误差（Mean Squared Error）与R-Squared。

MSE(均方误差)简介

均方误差又称“残差平方和”、“回归平方和”，用来表示预测值与实际值之间的差距大小。它的计算方法比较简单，就是用实际值减去预测值的差的平方和除以数据集中的样本个数。具体地说，对于一个训练集T={(x1,y1),(x2,y2),...,(xn,yn)},其中x1到xn是输入特征向量，yi是相应的输出结果，MSE定义如下：

$$ \text{MSE}(T)=\frac{1}{n}\sum_{i=1}^{n} (y_i-\hat{y}i)^2=\frac{1}{n}\sum{i=1}^{n}\left[ y_i-(b+w^Tx_i)\right]^2 $$

这里，$\hat{y}_i$表示第i个样本的预测值；$b$和$w$分别表示线性回归模型的截距和权重参数；$y_i - \hat{y}_i$表示第i个样本实际值与预测值之间的差距。

对于给定的测试集T={(x',y')},求出其对应的MSE:

$$ MSE_{\text{test}} = \frac