每天五分钟深度学习框架pytorch:自动求导机制

本文重点

深度学习框架pytorch拥有自动求导的机制,自动求导是 PyTorch 中非常重要的特性,能够让我们避免手动去计算非常复杂的导数,这能够极大地减少了我们构建模型的时间。本文学习的是第10步反向传播,学习路线参考前面一篇文章。

pytorch0.4版本

在pytorch的0.4版本中拥有Variable,它具有自动求微分的功能,我们可以使用它来构建变量,然后自动求微分。

对标量求偏导数

import torch
from torch.autograd import Variable
x=Variable(torch.Tensor([2]),requires_grad=True)
y=x+2
z=y**2+3
print(z)
z.backward()#计算z对每一个参数的梯度
print(x.grad)

变量x在申明的时候,指定了requires_grad=True,这样和x进行运算的所有变量都相当于设置了requires_grad=True,比如y、z都相当于设置了requires_grad=True。这样我们就可以使用反向传播了,本例中z.backward()就是表示的执行反向传播,最后x.grad表示的是z对x的偏导数。

对矩阵求梯度

import torch
from torch.autograd import Variable
x=Variable(torch.rand
  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

幻风_huanfeng

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值