文章目录 一、RNN 1、Simple RNN 2、LSTM (1)单元状态流 (2)门单元 (3)双向RNN 3、GRU(门控循环单元) 4、实践 (1)实现TextRNN,与NLP结合,进行文章分类 一、RNN RNN(循环神经网络):一类用于处理序列(时间、空间)数据的神经网络。 1、Simple RNN 优点:根据上文,推断下文,适合短期信息记忆。 例子:The clouds are in the _Sky . 缺点:不适合长期记忆,很难学习长距离信息。 2、LSTM Long Short Term Memory Network长短期记忆网络。相比SimpleRNN,结构更复杂,更精细,不仅适合短期记忆,也适合长期记忆。