2.7 计算图-深度学习-Stanford吴恩达教授

计算图 (Computation Graph)

可以说，一个神经网络的计算，都是按照前向或反向传播过程组织的。首先我们计算出一个新的网络的输出（前向过程），紧接着进行一个反向传输操作。后者我们用来计算出对应的梯度或导数。计算图解释了为什么我们用这种方式组织这些计算过程。在这个视频中，我们将举一个例子说明计算图是什么。

我们试图计算一个函数，它有3个变量a，b，c。表达式为。计算这个函数实际上有三个不同的步骤：首先需要计算出 ，设，然后设，最后设。

我们可以把这三步画成如下的计算图。

 有不同的或者一些特殊的输出变量时，例如本例中的（或在逻辑回归中你想优化的代价函数），用计算图来处理这些计算会很方便。

在下一个视频中，我们就会看到从右向左的导数计算过程（红色箭头）：