overfitting and underfitting详解

bias

模型预测的平均值和真实值之间的误差。bias高，则意味着模型没有很好的拟合数据集。

varience

每次模型单独预测的值和模型多次预测的平均值之间的误差。varience高，则意味着模型泛化能力差。

underfitting & overfitting

我们可以将一个模型看成一个杯子，这个杯子的大小由模型的参数量决定，参数量大，则杯子大；参数量小，则容器小。而数据量则是水。
当参数量小，也就是杯子小（相对于水的量），水溢出来了，这就是说明这个杯子（overfitting），即模型的varience增大（可以理解为，这个杯子只是在这个水量比较合适，当数据量改变，就不合适了）。当参数大，也就是杯子大（相对于水），水都装不满，说明这个杯子（underfitting），即模型bias增大（可以理解为，这个杯子并不是很好拟合这些水量，有更好的杯子去盛它）。
机器学习的目的就是训练出在某个问题上泛化能力强的模型。

参考

1.link:https://zhuanlan.zhihu.com/p/102038521