计算图
定义:计算图是用来描述运算的有向无环图
计算图中的主要元素:
- 结点:表示数据(向量,矩阵,张量)
- 边:表示运算(加减乘除卷积)
有了计算图之后,就可以根据计算图进行求导
叶子结点:用户创建的结点称为叶子结点
其中Tensor中属性is_leaf指示了张量是否为叶子结点
grad_fn记录了创建张量时所用的方法(函数,操作)
动态图
根据计算图的搭建方式可以分为:动态图和静态图
- 动态图:运算与搭建同时进行
特点:灵活,易调节——PyTorch - 静态图:先搭图,后运算
特点:高效,不灵活——TensorFlow