【论文阅读笔记6】序列模型入门之LSTM和GRU

本文只是吴恩达视频课程关于序列模型一节的笔记。

参考资料：

吴恩达深度学习工程师微专业之序列模型

博文——理解LSTM

吴恩达本来就是根据这篇博文的内容来讲的，所以 个人认为 认真学习过吴恩达讲的那个课程后可以不用再看那篇博文了，能获得的新的知识不多，另外网上的博文基本也都是根据那篇博文写的。

一、序列模型

       我们知道，卷积神经网络（CNN）主要是处理图像的。那么循环神经网络（RNN）呢？主要是用来处理序列的。

       那么，什么是序列呢？序列是排成一列的事件或对象，比如一段语音是一个时间序列，某一个时刻点的语音信号的幅值就是这个序列的一个对象；再比如一段视频是一个序列，视频的每一帧就是一个对象；一段话是一个序列，话里的每个单词或每个汉字就是一个对象。序列一个明显的特征是它是有先后顺序的，它是一维的。下图是序列的一些例子（中间一列是输入的序列，右边一列是输出，输出不一定是序列）

二、一个标准的RNN