本文所有来自于:
本文只是整理一点,仅适用于自己看的笔记。
LSTM
1. 遗忘门
2. 输入门
3. 存储器的状态
4. 输出门
5. 计算公式
GRU
1. 更新门
相当于LSTM的遗忘门和输入门,它决定了当前多少信息需要丢弃,多少信息需要更新。
2. 重置门
决定了过去信息多少需要遗忘
3. 计算公式
本文所有来自于:
本文只是整理一点,仅适用于自己看的笔记。
1. 遗忘门
2. 输入门
3. 存储器的状态
4. 输出门
5. 计算公式
1. 更新门
相当于LSTM的遗忘门和输入门,它决定了当前多少信息需要丢弃,多少信息需要更新。
2. 重置门
决定了过去信息多少需要遗忘
3. 计算公式