上一章的数值微分法有个缺点是比较费时间,本章的误差反向传播法,可以高效计算权重参数的梯度。
5.1 计算图
5.1.1 用计算图求解
5.1.2 局部计算
5.2 链式法则
5.2.1 计算图的反向传播
5.2.2 什么是链式法则
5.2.3 链式法则和计算图
5.3 反向传播
5.3.1 加法节点的反向传播
5.3.2 乘法节点的反向传播
5.3.3 苹果的例子
5.4 简单层实现
5.4.1 乘法层实现
5.4.2 加法层实现
5.5 激活函数层的实现
5.5.1 ReLU层
5.5.2 Sigmoid层
5.6 Affine/Softmax层的实现
5.6.1 Affine层
5.6.2 批版本的Affine层
5.6.3 Softmax-with-Loss层
5.7 误差反向传播实现
5.7.1 神经网络学习的全貌图
5.7.2 对应误差反向传播法的神经网络的实现
5.7.3 误差反向传播法的梯度确认
5.7.4 使用误差反向传播法的学习