偏差、方差、贝叶斯误差

贝叶斯误差、偏差、方差

贝叶斯误差：理论最低的错误率，通常用“人类水平错误率”来估计贝叶斯误差。相当于是天花板。
偏差：在训练集上预测值与实际值的差别
方差：在验证集上，预测值间的波动幅度
获取贝叶斯误差、偏差、方差的信息，指出我们调节模型的方向。

判断需要减小偏差/方差

对于一个模型，如果偏差过高，说明模型欠拟合，如果方差过高，则是过拟合。

防止过拟合的方法
参考(偏差和方差](https://www.cnblogs.com/hutao722/p/9921788.html)
偏差大、方差小—训练初始阶段，精度低
偏差小、方差大— 这是深度学习面临的最大问题，过拟合了。也就是模型太贴合训练数据了，导致其泛化（或通用）能力差，若遇到测试集，则准确度下降的厉害；
偏差小、方差小–完美
偏差大、方差大–糟糕