循环神经网络：RNN、LSTM、GRU、BPTT

目录

1. RNN

2. BPTT与RNN梯度消失、梯度爆炸

3. LSTM

4. LSTM的变体

5. GRU

---

1. RNN

   https://blog.csdn.net/huwenxing0801/article/details/84894238

                                                           

                       

2. BPTT与RNN梯度消失、梯度爆炸

   https://blog.csdn.net/huwenxing0801/article/details/84941497

3. LSTM

      https://blog.csdn.net/huwenxing0801/article/details/84996269

          

         

也有不同的表达式：

                                                         

或者

                                                       

4. LSTM的变体

5. GRU