详解BP算法之链式求导法则

BP算法的文章很多，但是说明白BP算法中的链式求导法则应该只此一家了。
西瓜书，李宏毅的网课，考研时的高数资料，高赞博客，甚至Hinton的原始论文，对链式求导法则也只是一带而过。

文章先从简化版本的链式法则讲起，再将其应用到BP算法中。

简化版本的链式法则

两层嵌套（复合)函数

如上图所示，E是A₁,A₂,A₃的函数，A₁,A₂,A₃都是B₁函数。此时，简单的运用链式求导法则即可求得E关于B₁的偏导：
$\frac{dE}{d{B}_1}=\frac{dE}{d{A}_1}\ast \frac{d{A}_1}{d{B}_1}+\frac{dE}{d{A}_2}\ast$