贝叶斯误差、偏差、方差
贝叶斯误差:理论最低的错误率,通常用“人类水平错误率”来估计贝叶斯误差。相当于是天花板。
偏差:在训练集上预测值与实际值的差别
方差:在验证集上,预测值间的波动幅度
获取贝叶斯误差、偏差、方差的信息,指出我们调节模型的方向。
对于一个模型,如果偏差过高,说明模型欠拟合,如果方差过高,则是过拟合。
防止过拟合的方法
参考(偏差和方差](https://www.cnblogs.com/hutao722/p/9921788.html)
偏差大、方差小—训练初始阶段,精度低
偏差小、方差大— 这是深度学习面临的最大问题,过拟合了。也就是模型太贴合训练数据了,导致其泛化(或通用)能力差,若遇到测试集,则准确度下降的厉害;
偏差小、方差小–完美
偏差大、方差大–糟糕