本文详细介绍了LSTM模型，包括其网络结构中的细胞状态、遗忘门、输入门、细胞状态更新和输出门。通过对比RNN，解释了LSTM如何避免梯度消失问题，适合处理长序列数据。同时推荐了一篇在知乎上的优质LSTM文章。
LSTM模型
之前一直想要了解一下LSTM模型的想法，看到一些介绍，说里面的各种门，遗忘门，输入门，输出门，是模拟电路的，然后自己就一直很莫名其妙，怎么还有电路什么的，然后就各种一直看不懂。。。现在回过头来仔细的看了看，发现原来也不是很难。不是电路，跟电路一点关系都没有，把它想象成一个神经元就好了，一切问题迎刃而解。嗯，是的，就是这么简单。。。
最后在知乎上找了一篇文章，讲的挺不错的：https://zhuanlan.zhihu.com/p/29927638
讲解
RNN网络结构
公式： h t = σ ( W h ∗ x t + U h ∗ h t − 1 + b h ) h_t = \sigma(W_h * x_t + U_h * h_{t-1} + b_h) ht=σ(Wh∗xt+Uh∗ht−1+bh)
其中， W h W_h Wh：
LSTM网络结构
图中 σ , t a n h \sigma, tanh σ,tanh都可以看做是一个神经元，看似复杂，但是相较于RNN只是多了几个神经元而已。下面分析
1. 细胞状态
相较于RNN的隐含状态 h ( t ) h^{(t)} h(t)，这里又多了一个细胞状态（cell state） C (
最低0.47元/天 解锁文章
扫一扫
4216
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
