![3564003e4a5f84d61e9ea7220e7e8ad4.png](https://i-blog.csdnimg.cn/blog_migrate/fcd4420c90d7bd5b4d35c13d41796789.jpeg)
RNN常用来处理序列式问题,本篇采用动图的方式展示RNN的计算过程。最常见的3中RNN网络结构分别为:
- vanilla RNN
- long short-term memory (LSTM)
- gated recurrent units (GRU)
下面是插图中使用的各个图例的说明
![e4412bd0a6c22d90ce3a74baf8fe8f16.png](https://i-blog.csdnimg.cn/blog_migrate/31bf50935245058a891eac8f3d1506d3.jpeg)
NOTE:动画展示的是在某个时刻(indexed by t)RNN cell 内部的处理,示例中input size=3,hidden units =2,batch size=1。
Vanilla RNN
![ca0afb442d70ee5533adfcf995a632d0.gif](https://i-blog.csdnimg.cn/blog_migrate/ea2467cc74588a3a81dc9eacfe717c8b.gif)
![ae639be860c249aeb3ac528852574be2.png](https://i-blog.csdnimg.cn/blog_migrate/bef0e00f2b560f223020021f390ecab5.jpeg)
- t--time step
- X--input
- h--hidden state
- length of X--dimension of input
- length of h--no. of hidden units
LSTM
![2663d73109d2fd62775efde942d51776.gif](https://i-blog.csdnimg.cn/blog_migrate/569c0baed6d7c30b9a608946d39083d0.gif)
![f9ea670fe165d9271bed853d44ad73d1.png](https://i-blog.csdnimg.cn/blog_migrate/24871ef1533b95e3b55691951679957e.jpeg)
- C--cell state
GRU
![04ecb6439ede66fac2b4d082a3790e15.gif](https://i-blog.csdnimg.cn/blog_migrate/9658fca28389620ed0e63f55c43361ae.gif)
![6e12ef683b18353ac4f2ca8776f03514.png](https://i-blog.csdnimg.cn/blog_migrate/f7f1d330300da2e1dc9e3566f5d21501.jpeg)
本篇原文来自于:
https://towardsdatascience.com/animated-rnn-lstm-and-gru-ef124d06cf45towardsdatascience.com推荐大家阅读原文