LSTM的C和GRU的H都存储历史信息，但LSTM的C通过输出门形成H，关注当前状态，而GRU的H直接作为输出，类似LSTM的C。GRU的重置门类似LSTM的输出门，简化了模型，通过互补方式处理信息。两者在新输入处理上有细微差异。
LSTM结构中的C（cell），和GRU结构中的H（隐藏单元），有什么联系和区别？
LSTM中的C和GRU中的H都是经过了遗忘和输入门（GRU中的更新们也是由遗忘和输入门组成的），也都是未经过输出门而直接往后传递的。他们有什么区别呢？
我自己的猜想：GRU的重置门就相当于LSTM中的更新门。
LSTM中的C经过输出门之后形成了H，因为有输出门所以H更关注当前状态的信息，而C携带者之前的所有状态的信息。GRU中的H就相当于LSTM中的C同样也携带者之前状态的信息，GRU中的重置门就相当于LSTM中的输出门，重置之后的H就相当于LSTM中更关注当前状态的H。
如图所示，左边为第一种形式也是网上常见的GRU画法。但是为了方便和LSTM对比，我画成了右边的形式，请先行对比。
然后我们再来将LSTM与上面右边的GRU结构放到一起进行对比。
-
先对比两者的输出：
在LSTM中，单元状态 C t C_t Ct经非线性变换 t a n h tanh tanh作用后，再经过输出门作用后得到整个单元的输出 h t h_t ht；而在GRU中，融入新信息后的单元状态就直接作为了 整个单元的输出 H t H_t H
最低0.47元/天 解锁文章
3011
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
