rnn反向传播求导详尽过程及思路

之前对于rnn反向传播求导的过程一直不是特别的熟悉，最近深入理解了一下rnn的反向传播推导过程，特总结在此，以便学习。
首先先给出一张经典的rnn反向传播流程的图片
写出里面各项内容的相应的关系
$o_t^{\ast }=\phi (V{s}_t)=\phi (V\varphi (U{x}_t+W{s}_{t-1}))$
令$o_t^{\ast }=V{s}_t,s_t^{\ast }=U{x}_t+W{s}_{t-1}$
(多说一句，这里的$s_t^{\ast }=U{x}_t+W{s}_{t-1}$实际上就是pytorch当中的nn.rnn实现的矩阵相乘的过程)
则有:
$o_t=\phi (o_t^{\ast }),s_t=\varphi (s_t^{\ast })$
接下来的求导公式主要利用节点的转移进行求导的计算，下面的"*"表示数值相乘的计算(主要用于对激活函数的求导),“X"表示矩阵相乘的计算(主要针对于非激活函数的求导)
$\frac{\partial L_t}{\partial O_t^{\ast }}=\frac{\partial L_t}{\partial O_t}\times \frac{\partial O_t}{\partial O_t^{\ast }}=\frac{\partial L_t}{\partial O_t}\times {\phi }^{{}^{\prime }}(O_t^{\ast })$
(这里借助激活函数之后的$O_t$作为中间变量进行求解)
同理利用中间变量求导可得
$\frac{\partial L_t}{\partial V}=\frac{\partial L_t}{\partial O_t}\times \frac{\partial O_t}{\partial O_t^{\ast }}\ast \frac{\partial O_t^{\ast }}{\partial V}=\frac{\partial L_t}{\partial O_t^{\ast }}\ast \frac{\partial O_t^{\ast }}{\partial V}=\frac{\partial L_t}{\partial O_t}\times {\phi }^{{}^{\prime }}(O_t^{\ast })\ast \frac{\partial O_t^{\ast }}{\partial V}$
可见对矩阵V的分析即为普通的反向传播算法，相对而言比较平凡，由$L={\sum }_{t=1}^N(\frac{\partial L_t}{\partial O_t}\times {\phi }^{{}^{\prime }}(O_t^{\ast })\ast \frac{\partial O_t^{\ast }}{\partial V})$
但是由于RNN算法的主要难点在于它state之间的通信，亦即梯度除了按照空间结构传播$(o_t->s_t->x_t)$以外，还得沿着时间通道传播$(s_t->s_{t-1}->...->s_1)$，这导致我们比较难将相应的RNN的BP算法写成一个统一的形式，为此我们可以采用"循环"的方法来计算各个梯度。
由于是反向传播算法，所以t应从n开始降序循环至1，在此期间（若需要初始化，则初始化为0向量或0矩阵）
所以接下来需要计算时间通道上的"局部梯度”:
$\frac{\partial L_t}{\partial s_t^{\ast }}=(\frac{\partial L_t}{\partial O_t^{\ast }}\times \frac{\partial O_t^{\ast }}{\partial O_t}\ast \frac{\partial O_t}{\partial S_t})\ast \frac{\partial S_t}{\partial S_t^{\ast }}$