pytorch官方教程学习笔记05：LEARNING PYTORCH WITH EXAMPLES

官网

1.autograd：

When using autograd, the forward pass of your network will define a computational graph; nodes in the graph will be Tensors, and edges will be functions that produce output Tensors from input Tensors. Backpropagating through this graph then allows you to easily compute gradients.

2.可以自己定义backward和forward。

感觉没啥用，就没看。

本教程没仔细看，感觉涉及到的都是更基础的过程，而现在自己只追求基本会用。

并且发现，在网络中貌似都只有optimizer.zero_grad()，将优化器清零的操作，而其他的清零操作则没有。

后面一半都有optimizer.step()，目的根据梯度更新网络参数，所以应该只需要清零优化器吧！