本文介绍了回归模型在模型选择上的常见评估指标:SST、SSR、SSE和R-square。
SST:The sum of squares total
SSR:The sum of squares regression
SSE:The sum of squares error
SST
The sum of squares total. SST是观测到的真实值与真实值的均值之间的差的平方和。
∑
i
=
1
n
(
y
i
−
y
‾
)
2
\sum_{i=1}^{n}{(y_i - \overline{y})^2}
∑i=1n(yi−y)2
SSR
The sum of squares due to regression. SSR是预测值与真实值的均值之间差的平方和。
若SSR与SST相等,则我们说模型很好地拟合了所有的特征。
SSE
The sum of squares error。SSE是真实值与预测值之间差的平方和。
SST、SSR、SSE的关联
SST = SSR + SSE
R-square(R方)
R方是指拟合优度,是回归直线对观测值的拟合程度。
R 2 = S S R S S T = 1 − S S E S S T R^2 = \frac{SSR}{SST} = 1 - \frac{SSE}{SST} R2=SSTSSR=1−SSTSSE
R 2 R^2 R2最大值为1,越接近1,表示回归直线对观测值的拟合程度越好。