PyTorch学习笔记（三）计算图

PyTorch使用动态图技术，下面是一个简单线性变换计算图的搭建实例。

import torch

w=torch.tensor([1.], requires_grad=True)
x=torch.tensor([2.], requires_grad=True)

a=torch.add(w, x)
b=torch.add(w, 1)
y=torch.mul(a, b)

a.retain_grad()
b.retain_grad()  # 保存非叶子节点的梯度，否则方向传播完会被释放掉
y.backward()  # 反向传播
print(w.grad)
print(x.grad)

# 查看叶子节点、梯度、计算方法
print('is_leaf:\n', w.is_leaf, x.is_leaf, a.is_leaf, b.is_leaf, y.is_leaf)
print('gradient:\n', w.grad, x.grad, a.grad, b.grad, y.grad)
print('grad_fn:\n', w.grad_fn, x.grad_fn, a.grad_fn, b.grad_fn, y.grad_fn)