LSTM神经网络不仅能记忆过去的信息,同时还能选择性的忘记一些不重要的信息而对长期的时间序列进行建模,GRU是LSTM的一种变体,是基于LSTM的思想来解决循环神经网络会产生梯度消失的问题。结构如下所示:
GRU有一个重置门和一个更新门
重置门是上图第一个红色虚线框,决定了哪些隐含状态用来计算新的成分,表达式为:
更新门是第二个红色虚线框,决定了哪些隐含层状态应该被更新或保留,表达式为:
计算了两个门以后,通过门来发挥各自的作用:
时空预测问题2:门控循环单元(GRU)
最新推荐文章于 2022-12-24 16:01:38 发布