欠拟合与过拟合

过拟合
模型过于复杂,过度契合训练集,导致测试集的预测出现误差,甚至出现误差极大的情况.
欠拟合
采用模型的表达力小于真实的表达能力.训练能力弱,导致测试能力不足.
怎么发现过拟合与欠拟合:
将原本的训练集分为新的训练集和测试集,隔一段时间检测一次确保test不会出现过拟合或欠拟合问题.
优化
并将原训练集分为k份,轮流取其中一份作为训练测试集,训练模型,可以小程度提高精准度.
解决方法
1.更多的数据集.
2.数据集不够大的话优先选择较小的模型,不清楚数据集情况下优先选择大一点的模型.
3.信号丢失
4.数据增强
5.提前终结
Regularization降低模型复杂度,使高次方系数无限接近于0/防止过拟合.
(权重衰减)