循环神经网络（RNN）

*为什么选择序列模型？
*定义符号构建序列模型
*循环神经网络模型
*不同类型的循环神经网络
*语言模型和序列生成

一、为什么选择序列模型？

二、定义符号构建序列模型

定义符号构建序列模型：


自然语言处理（ NLP ）：

10,000个单词大小的词典：

用one-hot表示词典里的每个单词：

三、循环神经网络模型
为什么不用标准神经网络？：


循环神经网络：

前向传播算法 ：

RNN计算模型：


前向传播算法 ：

反向传播：

四、不同类型的循环神经网络

五、语言模型和序列生成

什么是语言模型？：


如何建立一个语言模型？：



建立RNN模型：