tensorflow源码分析——LSTMCell

LSTMCell 是最简单的LSTMCell，源码位于：/tensorflow/contrib/rnn/python/ops/core_rnn_cell_impl.py。
LSTMCell 继承了RNNCell，源码位于：/tensorflow/python/ops/rnn_cell_impl.py

LSTMCell和BasicLSTMCell的区别：
1. 增加了use_peepholes, bool值，为True时增加窥视孔。图片来源于：http://colah.github.io/posts/2015-08-Understanding-LSTMs/

 

2. 增加了cell_clip, 浮点值，把cell的值限制在 ±cell_clip内

c = clip_ops.clip_by_value(c, -self._cell_clip, self._cell_clip)

3. 增加了num_proj（int）和proj_clip(float), 相对于BasicLSTMCell，在输出m计算完之后增加了一层线性变换，并限制了输出的值

m = _linear(m, self._num_proj, bias=False, scope=scope)
m = clip_ops.clip_by_value(m, -self._proj_clip, self._proj_clip)

 

转载于:https://www.cnblogs.com/yuetz/p/6566691.html