零碎知识点初步了解-过拟合、欠拟合

过拟合与欠拟合（摘录自西瓜书P23-P24）

学习器把训练样本学的太好了的时候，很可能把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质，这种现象在机器学习中被称为过拟合（overfitting）

与过拟合相对的是欠拟合（underfitting），这是指对训练样本的一般性质尚未学好。

比如，树叶训练样本里出现绿色锯齿状树叶，过拟合模型会认为树叶必须有锯齿；而欠拟合模型会认为绿色的都是树叶。