机器学习导论——模型选择-泛化性能体现

一、泛化的定义
模型具有好的泛化能力指的是模型不但在训练数据集上表现的效果很好，对于新数据的适应能力也有很好的效果
二、泛化能力的表现：过拟合和欠拟合
（一）过拟合overfitting：模型在训练数据上表现良好，在未知数据或测试集上表现差
（二）欠拟合underfitting：在训练数据和未知数据上表现都很差


三、模型的选择——奥卡姆剃刀原则
给定两个具有相同泛化误差的模型，较简单的模型比较复杂的模型更可取。奥卡姆剃刀原则是模型选择的基本而且重要的原则。