过拟合
过拟合指的是模型在训练集上具有很好的性能但在测试集上性能很差
过拟合产生原因
模型容量相对于数据量来说过大,模型能够很完美的拟合训练数据,导致在测试数据上性能差
过拟合解决方法
- 缩减模型容量,让模型结构简单化
- 添加模型约束,即使用正则化策略
- 收集更多的训练数据
- 减少训练数据中的噪声
欠拟合
模型在训练数据以及验证数据上误差虽然一直在下降,但在验证数据上迟迟不能收敛
欠拟合产生原因
- 模型过于简单,不能容纳数据中的所有模式
- 正则化过强,正则化过强也会导致模型收敛缓慢
欠拟合解决方法
- 选择一个更复杂的模型
- 减少模型约束
- 提供更好的特征