ISL-Chap2剩余部分笔记（回归问题、分类问题，如何衡量模型的好坏）

Chap2剩余部分笔记

1.回归问题，如何衡量模型的好坏

对于回归问题，可以使用MSE（mean squared error）来衡量。简单来说，就是把所有估计值和实际值的差加起来，再求个均值。
$$MSE=\frac{1}{n}\sum _{i=1}^n(y_i-\hat{f}(x_i){)}^2$$
通常来说，我们要找到在训练集上表现最好，也就是MSE最小的模型。但是，并不能保证，训练集上MSE最小，测试集上MSE也会最小。

如上图所示，随着模型复杂度的提高，训练集上的MSE在不断减小，但是在测试集上就并非如此(overfitting)。

2.分类问题，如何衡量模型的好坏

上面讨论了回归的情况下使用MSE，但是在分类的情况下怎么办呢？bulingbuling~隆重推出，error rate。

the proportion of mistakes that are made if we apply our estimate $\hat{f}$ to the training observations

1 n ∑ i = 1 n I ( y i ≠ y i ^ ) \frac{1}{n}\sum_{i=1}^n I(y_i \neq \hat{y_i})