mse loss为nan值时候的怎么办

1、检查输入数据和target中是否有 nan 值。

  np.any(np.isnan(x))

  np.any(np.isnan(target))

删除标签列中空值所在的行

df.dropna(subset=['列名'], inplace=True)

2、减小loss

3、rnn中发生梯度爆炸,检查参数值和参数梯度,截断梯度。 

3.1 检查梯度是否更新
for params in model.named_parameters():
    [name, param] = params

    if param.grad is not None:
        print(name, end='\t')
        print('weight:{}'.format(param.data.mean()), end='\t')
        print('grad:{}'.format(param.grad.data.mean()))

3.2 截断梯度
torch.nn.utils.clip_grad_norm_(model.parameters(), 0.25)
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值