使用mindspore想从NetWithLossCell中返回两个loss,但只用其中一个用来更新梯度,怎么办?

问题描述:

我现在自己写了个NetWithLossCell类,封装好了loss的计算。这里面有两个loss需要在前向传播之后输出,用于打印显示信息。

但只有一个loss是需要用于梯度计算的,这应该在TrainOneStepCell里怎么修改啊?

解答:

可以参考这篇文档: https://mindspore.cn/docs/programming_guide/zh-CN/r1.6/grad_operation.html?highlight=stop_gradient

在Loss定义中,不需要求导的loss:loss = stop_gradient(loss)

你好,stop_gradient的用法和前向网络有几个输出并没有关系,它是用来停止梯度传播的,虽然例子中只有一个输出,但是你这里两个输出仍然适用。正向网络中可以这么改: ``` ... psnr = mse2psnr(loss_coarse) psnr = stop_gradient(psnr) return loss, psnr ```

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值