统计学习方法学习笔记（二）模型评估与模型选择，正则化与交叉验证，泛化能力

训练误差与测试误差

当损失函数给定时，基于损失函数的模型的训练误差 (training error) 和模型的测试误差 (test error) 就自然成为学习方法评估的标准。但是，统计学习方法具体采用的损失函数未必是评估时使用的损失函数。
这句理解下，参考下在数据科学比赛中给出的评分标准，与实际学习采用的损失函数之间的关系。

过拟合

在多项式函数拟合中可以看到，随着多项式次数(模型复杂度)的增加，训练误差会减小，直至趋向于0 ，但是测试误差却不如此，它会随着多项式次数(模型复杂度)的增加先减小而后增大。而最终的目的是使测试误差达到最小。这样，在多项式函数拟合中，就要选择合适的多项式次数。