循环神经网络（rnn）讲解

•    循环神经网络（rnn）

•  RNN简介

•  Rnn基本结构

•  双向rnn基本结构

•  rnn梯度消失问题

•  RNN应用举例

 

•    RNN简介

•    循环神经网络（RNN）能够从序列和时序数据中学习特征和长期依赖关系。

•   循环神经网络（RNN）近几年在语言模型与文本生成，机器翻译，语音识别，图像描述生成等领域都取得了不错的效果。

 

 

 

 

 

•  Rnn基本结构

•    回顾一下神经网络的一般结构：

 

•    Z1 = W1*X+ bias

•    a1 = sigmoid(Z1)

•    Z2 = W2*a1+bias

•    a2 = sigmoid(Z2)

•    a2 = y(预测值)