Chap2剩余部分笔记
1.回归问题,如何衡量模型的好坏
对于回归问题,可以使用MSE(mean squared error)来衡量。简单来说,就是把所有估计值和实际值的差加起来,再求个均值。
M S E = 1 n ∑ i = 1 n ( y i − f ^ ( x i ) ) 2 MSE=\frac{1}{n}\sum_{i=1}^n (y_i-\hat{f}(x_i))^2 MSE=n1i=1∑n(yi−f^(xi))2
通常来说,我们要找到在训练集上表现最好,也就是MSE最小的模型。但是,并不能保证,训练集上MSE最小,测试集上MSE也会最小。
如上图所示,随着模型复杂度的提高,训练集上的MSE在不断减小,但是在测试集上就并非如此(overfitting)。
2.分类问题,如何衡量模型的好坏
上面讨论了回归的情况下使用MSE,但是在分类的情况下怎么办呢?bulingbuling~隆重推出,error rate。
the proportion of mistakes that are made if we apply our estimate f ^ \hat{f} f^ to the training observations
1 n ∑ i = 1 n I ( y i ≠ y i ^ ) \frac{1}{n}\sum_{i=1}^n I(y_i \neq \hat{y_i})