【nlp】2.4 GRU模型

1 GRU介绍

GRU（Gated Recurrent Unit）也称门控循环单元结构, 它也是传统RNN的变体, 同LSTM一样能够有效捕捉长序列之间的语义关联, 缓解梯度消失或爆炸现象. 同时它的结构和计算要比LSTM更简单, 它的核心结构可以分为两个部分去解析:

• 更新门
• 重置门

2 GRU的内部结构图

2.1 GRU结构分析

有了前面RNN和LSTM模型的理解，对于GRU的结构认知理解就简单多了。
当Zt=1，表示完全使用本次隐藏层信息
当Zt=0，表示完全使用上一个隐藏层信息

结构解释图:

GRU的更新门和重置门结构图:

内部结构分析:

和之前分析过的LSTM中的门控一样, 首先计算更新门和重置门的门值, 分别是z(t)和r(t), 计算方法就是使用X(t)与h(t-1)拼接进行线性变换, 再经过sigmoid激活. 之后重置门门值作用在了h(t-1)上, 代表控制上一时间步传来的信息有多少可以被利用. 接着就是使用这个重置后的h(t-1)进行基本的RNN计算, 即与x(t)拼接进行线性变化, 经过tanh激活,