方差（Variance） 偏差（bias） 过拟合 欠拟合

机器学习中方差（Variance）和偏差（bias）的区别？与过拟合欠拟合的关系？

 

(1)bias描述的是根据样本拟合出的模型的输出预测结果的期望与样本真实结果的差距，简单讲，就是在样本上拟合的好不好。

低偏差和高方差（对应右上图）是使得模型复杂，增加了模型的参数，这样容易过拟合。

这种情况下，形象的讲，瞄的很准，但手不一定稳。

（2）varience描述的是样本上训练出来的模型在测试集上的表现，也就是看在测试集上表现的好不好。

高偏差和低方差的情况（对应左下图）。这种情况要简化模型，减少模型的参数，这样容易出现欠拟合。

这种情况下，形象的讲，手很稳，但瞄的不准。