目录
如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~
0. 前言
标准的 RNN 每次的输出,都与附近的几次输入、隐藏单元激活函数值相关。
而与很久之前的输入关联性较差,会遗忘较早的信息,缺乏长期依赖。
本篇介绍为解决这个问题而修改的 RNN 模型。
- 长短期记忆 LSTM(Long Short-Term Memory)
- 门控循环单元 GRU(Gated Recurrent Unit)
如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~
标准的 RNN 每次的输出,都与附近的几次输入、隐藏单元激活函数值相关。
而与很久之前的输入关联性较差,会遗忘较早的信息,缺乏长期依赖。
本篇介绍为解决这个问题而修改的 RNN 模型。