花书+吴恩达深度学习（十七）序列模型之长短期记忆 LSTM 和门控循环单元 GRU

目录

0. 前言

1. 长短期记忆 LSTM

2. 门控循环单元 GRU

---

如果这篇文章对你有一点小小的帮助，请给个关注，点个赞喔~我会非常开心的~

花书+吴恩达深度学习（十五）序列模型之循环神经网络 RNN

花书+吴恩达深度学习（十六）序列模型之双向循环网络 BRNN 和深度循环网络 Deep RNN

花书+吴恩达深度学习（十七）序列模型之长短期记忆 LSTM 和门控循环单元 GRU

0. 前言

标准的 RNN 每次的输出，都与附近的几次输入、隐藏单元激活函数值相关。

而与很久之前的输入关联性较差，会遗忘较早的信息，缺乏长期依赖。

本篇介绍为解决这个问题而修改的 RNN 模型。

• 长短期记忆 LSTM（Long Short-Term Memory）
• 门控循环单元 GRU（Gated Recurrent Unit）

1. 长短期记忆 LSTM