过拟合(训练样本自身特点及非一般特性当作重要特性)
模型学习的太好,记住了样本的非一般特性。个人理解为比如对人的特征(鼻、耳、嘴等)学习效果良好。假如训练数据为黄人和黑人的样本图片。模型可以在训练数据表现出色,根据特征进行分类。此时过拟合就是指训练过程中记着一些非重要特征。例如,黄人和黑人脚趾甲长度(这为非一般特征),从而预测新样本时。原本可以根据一般特征很轻易的预测是否黄种人。但是由于模型过于强大,预测失败。
欠拟合
模型学习能力不够好,即学习到某些一般特性,假如只会根据鼻梁的高低程度来判别是否为黄种人
样本为:白种人
实际预测为:黄种人(误以为高鼻梁就是黄种人)