偏差bias 和方差 virance

偏差:描述的是预测值(估计值)的期望与真实值之间的差距。偏差越大,越偏离真实数据。

方差:描述的是预测值的变化范围,离散程度,也就是离其期望值的距离。方差越大,数据的分布越分散,如下图右列所示。



 

在深度学习中,我们可以同时减小Bias和Variance,构建最佳神经网络模型。

一般来说,Train set error体现了是否出现bias,Dev set error体现了是否出现variance

如图所示,high bias对应着欠拟合,而high variance对应着过拟合。

过拟合即在训练集上表现良好,但在验证集上表现不佳。数据分布离散程度较大,即方差大。

欠拟合即使在训练集和验证集表现都不佳,数据偏离真实数据。

如何解决NN中出现的偏差和方差

 

也可能会出现 降低了偏差 此时方差升高 

或者                降低了方差  升高了偏差的情况  这种时候应该通过训练大量的数据以及构建bigger network来解决

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值