PS:本人初学,技术菜的抠脚,本博客仅对学习过程中遇到的知识点进行总结,如有错误,还望指出,谢谢。
1、模型容量
模型的容量或表达能力,是指模型拟合复杂函数的能力。
数据拟合所采用的多项式次数越多,多项式就能更好的反映与数据之间的关系,但过多的次数会造成过度拟合,以及过多消耗计算资源,所以选择合理的模型,最大程度的增加模型表达的泛化能力,是非常重要的一件事。
2、过拟合问题
当模型容量过大时,可能会出现在训练集上表现良好,但测试集上表现较差的情况,这是由于训练模型还将额外的观测误差(噪声?)学习了进来,导致最终的模型泛化能力较差,这种情况就叫做“过拟合(overfitting)”,相对应的,如果模型容量过小,则会造成“欠拟合(underfitting)”只有训练的模型和真实模型容量大致匹配时,模型才具有较好的泛化能力。
现代深度神经网络中过拟合现象非常容易出现&#