时间序列预测（九）——门控循环单元网络（GRU）

目录

一、GRU结构

二、GRU核心思想

1、更新门（Update Gate）：决定了当前时刻隐藏状态中旧状态和新候选状态的混合比例。

2、重置门（Reset Gate）：用于控制前一时刻隐藏状态对当前候选隐藏状态的影响程度。

3、候选隐藏状态（Candidate Hidden State）：生成当前隐藏状态的候选值

三、GRU 分步演练

1、输入与初始化：

2、计算重置门：

3、计算候选隐藏状态：

4、计算更新门：

5、计算当前隐藏状态：

四、代码实现

1、任务:

2、做法：

3、主要修改点：

4、具体代码：

5、结果

---

GRU是一种循环神经网络（RNN）的变体，由Cho等人在2014年提出。相比于传统的RNN，GRU引入了门控机制，可以通过该机制来确定应该何时更新隐状态，以及应该何时重置隐状态，使得网络能够更好地捕捉长期依赖性，同时减少了梯度消失的问题。

一、GRU结构

GRU的结构和基础的RNN相比，并没有特别大的不同，都是一种重复神经网络模块的链式结构，由输入层、隐藏层和输出层组成，其中隐藏层是其核心部分，包含了门控机制相关的计算单元。

二、GRU核心思想

与LSTM不同，GRU没有细胞状态，而是直接使用隐藏状态。GRU由两个门控制：更新门（Update Gate）和重置门（Reset Gate）。

1、更新门（Update Gate）：决定了当前时刻隐藏状态中旧状态和新候选状态的混合比例。

2、重置门（Reset Gate）：用于控制前一时刻隐藏状态对当前候选隐藏状态的影响程度。

补充：

3、候选隐藏状态（Candidate Hidden State）