张量的is_leaf参数和required_grad参数

1: required_grad = True表明要对这个张量求导,也就是求取这个张量的梯度grad

2:is_leaf = True表示这个张量是叶子节点,此时,对其求导,他的导数会被保留,而对于is_leaf =False的张量,就算其required_grad = True,对齐求导了,但是其导数不会被保留,也就不会用于参数更新

3:像模型权重参数这些张量,其 required_grad = True,并且is_leaf = True;而输入张量,比如输入的图片等等,往往is_leaf = True, 而 required_grad = False,也就是说输入张量是叶子节点,但是不对其求导,因为总部需要更新输入吧.....

4:张量的.grad_fn:记录求导函数,比如乘法等等

5:而张量.grad则是该张量求导之后的梯度

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值