计算图
一、概念
计算图是用来描述运算的有向无环图
二、两个主要元素
结点(Node):表示数据,如向量、矩阵、张量
边(Edge):表示运算,如加减乘除卷积等
三、举例
a = x + w
b = w + 1
y = a * b
y = ( x + w ) * ( w + 1 )
四、计算图与梯度求导
叶子节点:用户创建的结点,如x和w,is_leaf指示张量是否为叶子结点
动态图
动态图vs静态图
动态图:运算与搭建同时进行,灵活易调节
静态图:先搭建图,后运算,高效不灵活