(3) pytorch之计算图与动态图

计算图 （描述运算的有向无环图）

基本元素 :结点（表示数据，eg向量、矩阵、张量），边（表示运算，加减乘除卷积等）

eg：y=（x+w）*(w+1)

使用计算图主要是为了求导更加方便

注：使用结点.backward()仅仅能对叶子结点，x和w求导。不能看a和b的导数（反向传播后直接释放掉了，节省内存）。
如果想要保存，在反向传播之前使用，a.retain_grad()方法
判断张量是否是叶子结点，可以通过第一节介绍的is_leaf属性
最后一个属性grad_fn:记录创建该张量时用到的方法（叶子结点为直接创建，所以没有该属性）

动态图（pytorch为动态图，tensorflow为静态图）

搭建方式不同，动态图（灵活）：运算与搭建同时进行，静态图（高效）：先搭建图再运算