笔记——反向传播算法

作为一个逻辑很差又贼容易懵逼的菜鸟，不做笔记和经常回顾真的学不到东西，脑子一团浆糊。
之前明明已经手推了反向传播算法，后面有点遗忘，再加上斯坦福 CS231n 的讲法把我讲懵了，所以必须写一篇针对我自己的理解总结笔记。
反向传播公开课我只服气李宏毅！！！

为什么需要反向传播算法

首先！让我来捋一下！为什么需要反向传播算法！

反向传播图解

接下来我们愉快的开始介绍反向传播算法吧~
应用场景：神经网络

上图可以说超经典了，这种糊在一起的神经网络，参数数量是很惊人的啊，一般的方法不行的~

理论层面：链式法则

整个反向传播就是对链式法则的优美（简单粗暴）应用，用在神经网络这种密密麻麻的东西上面，有点四两拨千斤的大侠气质。

具体操作如下

（是的，我情愿手写扫描也不愿意敲公式