在学习算法中,重要的两个问题,就是欠拟合(underfitting)和过拟合(overfitting),所谓欠拟合就是拟合程度不够,过拟合则顾名思义,拟合过度。造成这两种结果的原因主要有两个:
(1)模型选择不好,简单问题选择了复杂的模型,容易过拟合;复杂的问题选择了简单的模型容易欠拟合。
(2)参数设置和调整有问题。特别存在学习率的方法,学习率调整不当,容易引起这两种结果。
下面三张图是不同模型对同一组数据拟合的结果,很清晰的说明了这个问题。
在学习算法中,重要的两个问题,就是欠拟合(underfitting)和过拟合(overfitting),所谓欠拟合就是拟合程度不够,过拟合则顾名思义,拟合过度。造成这两种结果的原因主要有两个:
(1)模型选择不好,简单问题选择了复杂的模型,容易过拟合;复杂的问题选择了简单的模型容易欠拟合。
(2)参数设置和调整有问题。特别存在学习率的方法,学习率调整不当,容易引起这两种结果。
下面三张图是不同模型对同一组数据拟合的结果,很清晰的说明了这个问题。