梯度下降与反向传播
1、反向传播 是 求解损失函数关于各个参数的梯度的一种方法。(求梯度【偏导数】)
2、梯度下降 是 根据反向传播计算得到的梯度(偏导)来更新各个权重W,使损失函数极小值的一种方法。(使权重W更好)
下图就是反向传播的计算方法
梯度下降与反向传播
1、反向传播 是 求解损失函数关于各个参数的梯度的一种方法。(求梯度【偏导数】)
2、梯度下降 是 根据反向传播计算得到的梯度(偏导)来更新各个权重W,使损失函数极小值的一种方法。(使权重W更好)
下图就是反向传播的计算方法