qq_44138402的博客

- ModernRNN - RNN： RNN（Recurrent Neural Network）是一类用于处理序列数据的神经网络。 RNN存在一些问题梯度较容易出现衰减或爆炸（BPTT） - 梯度爆炸，梯度消失 首先举一个例子： 如果有一个层输为LLL的多层感知机的第lll层H(l)\boldsymbol{H}^{(l)}H(l)的参数为W(l)\boldsymbol{W}^{(l)}W(l)，...