一、RNN资源
循环神经网络主要有以下几种形式:
1.普通RNN
2.门循环神经网络(GRU)
3.长短期记忆网络(LSTM)
1、循环神经网络教程
教程主要有以下几个部分组成
1. RNN简介
教程地址:http://www.wildml.com/2015/09/recurrent-neural-networks-tutorial-part-1-introduction-to-rnns/20
博客地址:http://blog.csdn.net/heyongluoyao8/article/details/48636251
2. 利用Theano和python实现一个RNN
教程地址: http://www.wildml.com/2015/09/recurrent-neural-networks-tutorial-part-2-implementing-a-language-model-rnn-with-python-numpy-and-theano/18
3. BPTT算法和梯度消失问题
教程地址:http://www.wildml.com/2015/10/recurrent-neural-networks-tutorial-part-3-backpropagation-through-time-and-vanishing-gradients/7
4. 实现一个GRU和LSTM
教程地址:http://www.wildml.com/2015/10/recurrent-neural-network-tutorial-part-4-implementing-a-grulstm-rnn-with-python-and-theano/15
2、RNN的训练
资源地址:https://github.com/pranv/lrh
二、LSTM资源
1、LSTM原理
资源地址(英文版):http://colah.github.io/posts/2015-08-Understanding-LSTMs/
资源地址(中文版):http://www.jianshu.com/p/9dc9f41f0b29
资源地址(带公式解析):http://www.jianshu.com/p/4e285112b988
2、LSTM&RNN资源汇总(转载)
博客地址:http://www.jianshu.com/p/c930d61e1f16
资源地址:http://mp.weixin.qq.com/s/rfaqToS4rQPahzxwNoiRQQ