前向传播很简单,根据初始值带入隐藏层neuron计算结果,并将结果作为输入带入到下一层,最终得出输出结果。
神经网络的反向传播需要计算损失和梯度,利用神经网络的反向传播可以训练更新neuron的参数。
上图是一个简单的三层神经网络
只有一层时:
有两层时:
前向传播很简单,根据初始值带入隐藏层neuron计算结果,并将结果作为输入带入到下一层,最终得出输出结果。
神经网络的反向传播需要计算损失和梯度,利用神经网络的反向传播可以训练更新neuron的参数。
上图是一个简单的三层神经网络
只有一层时:
有两层时: