函数式自动微分,从这里开始感觉有点不太能理解了。以往了解到的是,神经网络的训练主要依靠反向网络传播,传播过程中会引入一个损失函数,在梯度计算后,最终会得到一个模型。而在这个过程中,如何进行演变,如何计算获得值之后再计算,我想这应该就是自动微分的作用。
函数式自动微分,从这里开始感觉有点不太能理解了。以往了解到的是,神经网络的训练主要依靠反向网络传播,传播过程中会引入一个损失函数,在梯度计算后,最终会得到一个模型。而在这个过程中,如何进行演变,如何计算获得值之后再计算,我想这应该就是自动微分的作用。