【week1】计算图与动态图机制

【week1】计算图与动态图机制

计算图

计算图用来描述运算的有向无环图

计算图主要有两个元素：结点（Node）、边(Edge)

结点表示数据，如向量，矩阵，张量

边表示运算，如加减乘除卷积等

用计算图表示：y = (x+w)*(w+1)

y = a * b

计算图与梯度求导：重点关注的是叶子结点。

**叶子结点：**用户创建的结点称为叶子结点，如X与W

tensor中的八个属性：

is_leaf：是Tensor中的属性，指示张量是否为叶子结点

grad_fn：记录创建该张量时所用的方法（函数）

​ y.grad_fn =

​ a.grad_fn=

​ b.grad_fn =

动态图

动态图与静态图

根据就算他的搭建方式，将计算图分为动态图和静态图，pytorch是一种动态图语言，tensorflow是一种静态图语言

动态图：运算与搭建同时进行，灵活，易调节

ensorflow是一种静态图语言

动态图：运算与搭建同时进行，灵活，易调节

静态图：先搭建图，后运算，高效，不灵活