RNN的应用有很多:
- one to one:普通的神经网络结构,一个输入对应一个输出
- one to many: 将一幅图片输出一个句子,用于Image Captioning
- many to one: 语句的情感分类,将一个句子分为积极还是消极的
- many to many:机器翻译以及视频分类(一个视频的类别由之前所有帧的函数得到)
一、RNN的定义
现在的状态ht由之前的状态ht-1和该时刻的输入xt来决定,它们要经过一个激活函数fw
注意:对于任意时刻,无论序列有多长,我们使用的都是同一个函数fw,w都是一样的。
最简单的RNN就如下: