根据MxNet深度学习框架官方文档 (https://mxnet.incubator.apache.org/versions/master/architecture/program_model.html#symbolic-vs-imperative-programs ), 从命令式编程和符号式编程的角度分析动态图和静态图深度学习框架的实现方式和特点。
- 动态图框架对应的是 命令式编程
- 静态图框架对应的是 符号式编程
什么是symblic/imperative style编程
使用过python或C++对imperative programs比较了解。imperative-stype programs在运行时计算,大部分python代码都是imperative。比如下面的例子:
import numpy as np
a = np.ones(10)
b = np.ones(10) * 2
c = b * a
d = c + 1
当程序执行到 c = b ∗ a c=b∗a c=b∗a 时,代码开始做对应的数值计算。
symbolic programs与此不同。symbolic-stype program中,需要先给出一个函数的定义(可能十分复杂)。当我们定义这个函数时,并不会做真正的数值计算。这类函数的定义中使用数值占位符,当给定真正的输入后,才会对这个函数进行编译计算。上面的例子用symbolic-stype program重新写:
A = Variable('A')
B = Variable('B')
C = B * A
D = C + Constant(1)
# compiles the function
f = compile(D)
d = f(A=np.ones(10), B=np.ones(10)*2)
上述代码中,语句 C = B ∗ A C=B∗A