1.6 泛化能力

泛化能力：对未知数据的预测能力，我们通常用测试数据的测试误差来来评价泛化能力，但是由于测试数据集是有限的，测试误差很依赖测试数据集，所以需要在更多的未知的甚至全数据集合上评价其泛化能力
而模型预测值与真实值的误差的期望就是期望风险（符合某个联合分布P(X,Y),同样是未知而又真实存在的），泛化误差和训练误差之间是成正相关的，假设空间在有限个函数模型下，训练误差越小，泛化误差越小，泛化误差的上界以一定的概率和假设空间的函数个数、样本个数相关，过程说明请参照李航统计学习16-17页。