感谢XJH,TCT和CR同学指出的错误,已更正。
题目:对以下的网络执行一次前向传播和反向传播:
(1)输入在神经网络上进行一次前馈传播,请计算隐层和输出层中每个神经元的输入和输出;假设损失函数为L2-loss。
输入:
(2)进行一次误差逆传播,请计算隐层和输出层每个神经元的误差,并更新每个权重参数。
真值为:
输出层的loss:
所以输出层的Error为:
F/G/H层的Error为:
C/D/E层的Error为:
设
为节点
到节点
的边的权重。
则:
F/G/H到M/N层的:
C/D/E到F/G/H层的:
C/D/E到A/B层的:
使用公式:
更新权重后,示意图如下:
其中红色代表error,黑色代表更新后的权重。
怎么样,是不是很easy呢?大家也来手算一下吧!