吴恩达之神经网络和深度学习-2.8计算图的导数计算

在这一节课中，主要讲了函数如何进行反向传播计算，即用到函数求导的链式法则。

首先，我们从右向左进行计算。
$\frac{\mathrm{d} J}{\mathrm{d} v}=(3v)'=3$这是上节中已有的公式，可以直接拿来用。
$\frac{\mathrm{d} J}{\mathrm{d} a}=\frac{\mathrm{d} J}{\mathrm{d} v}\frac{\mathrm{d} v}{\mathrm{d} a}=(3v)'(a+u)'(此时把u看做常数)=3$
$\frac{\mathrm{d} J}{\mathrm{d} u}=\frac{\mathrm{d} J}{\mathrm{d} v}\frac{\mathrm{d} v}{\mathrm{d} u}=(3v)'(a+u)'(此时把a看做常数)=3$
$\frac{\mathrm{d} J}{\mathrm{d} b}=\frac{\mathrm{d} J}{\mathrm{d} v}\frac{\mathrm{d} v}{\mathrm{d} u}\frac{\mathrm{d} v}{\mathrm{d} b}=(3v)'(a+u)'(a为常数)(bc)'(c为常数)=3c$
$\frac{\mathrm{d} J}{\mathrm{d} c}=\frac{\mathrm{d} J}{\mathrm{d} v}\frac{\mathrm{d} v}{\mathrm{d} u}\frac{\mathrm{d} v}{\mathrm{d} c}=(3v)'(a+u)'(a为常数)(bc)'(b为常数)=3b$
由此，我们看到，函数的反向传播主要用到的求导的链式法则，熟悉导数的猿们应该对链式法则会比较清楚，不清楚的要再去复习一下链式法则的精要概念，千万不要把常量和变量弄混，否则，会变的更加复杂。