链式法则

链式法则是微积分中的求导法则，用于求一个复合函数的导数，是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的 导数的乘积，就像锁链一样一环套一环，故称链式法则。（来自百度百科）

链式法则是求复合函数的导数（偏导数）的法则，若 I，J 是直线上的开区间，函数 f(x) 在 I 上有定义处可微，函数 g(y) 在 J 上有定义，在 f(a) 处可微，则复合函数在 a 处可微 (在 I 上有定义)，且. 若记 u=g(y),y=f(x)，而 f 在 I 上可微，g 在 J 上可微，则在 I 上任意点 x 有

即，或写出

 

假设存在下面的关系：

假设

a=2，b=1

那么

逐级求导：
 

图示如下：

链式求导：

验证：

 参考：深度学习-链式求导 https://blog.csdn.net/weixin_40476348/article/details/94434483

在深度学习中，神经网络在反向传播训练参数的时候要用到链式法则，反向传播的目的是更新参数W和b，试想一下，如何利用预测值反向修正第一个隐藏层的参数呢？？？那么就需要利用链式法则一层一层的求偏导，这就是为什么神经网络用到链式法则的原因。