#反向传播方程式推导
对于反向传播方程式的后两个公式,也就是权重和偏置公式的推导过程如下:
其中,第l层第j个神经元的误差定义很关键:
其中两个关于误差计算的公式如下,证明过程书里有:
反向传播算法的理解:
- 利用误差公式计算自后往前逐层计算出每个神经元的误差δ;
- 利用权重和偏置公式,从前往后逐层计算每个神经元权重w和偏置b的偏导数。
- 每次计算都需要两次遍历网络。
#反向传播方程式推导
对于反向传播方程式的后两个公式,也就是权重和偏置公式的推导过程如下:
其中,第l层第j个神经元的误差定义很关键:
其中两个关于误差计算的公式如下,证明过程书里有:
反向传播算法的理解: