RNN详解

目录

一.什么是RNN

二.RNN的结构

三.RNN的意义

---

一.什么是RNN

简单来说，RNN是神经网络的一种，一般用于处理序列数据，序列数据通常指像文本，语音这些具有序列特性的数据。拿一段文本举例，RNN可以根据当前词的上文内容，来判断当前词的真实含义，而不是仅凭当前这个词就断定它的意思。

二.RNN的结构

下面这幅图是RNN的二维图示及其展开(二维图引自知乎韦伟的文章)

 仅凭二维图可能不太容易理解，RNN的三维图示如下

也就是说，不同时刻有着不同的全连接神经网络，把不同时刻的全连接神经网络的隐层再做一次全连接，就形成了RNN的结构。

三.RNN的意义

相比于全连接神经网络和卷积神经网络，循环神经网络有着特殊的不可替代的意义。因为，不管是卷积神经网络还是全连接神经网络，他们假设的前提都是：元素之间是相互独立的，输入和输出也是独立的，但现实世界中，很多元素的相关的，比如文本，语音等。