LSTM作为一种RNN模型，利用输入门、遗忘门和输出门控制信息流动，解决梯度消失问题。门控通过Sigmoid函数调节历史信息与当前输入对状态的影响。遗忘门决定历史状态m(t-1)的保留程度，输入门控制当前输入i'(t)的影响，最终形成状态值m(t)。输出门则控制t时刻状态对外的可见度，形成隐层节点输出h(t)。
上面是LSTM的计算公式，那三个Sigmoid作为非线性函数的就是三个门。LSTM是RNN模型，决定t时刻节点的除了当前x(t)外，还有t-1时刻的隐层节点输出h(t-1).这代表了历史信息对当前的影响，所以决定门开关程度的除了当前输入x(t)外，还有h(t-1)。
含义很清楚，输入门是用来控制输入i'(t)进出多少或者是否允许进出门的设备；输出门是用来控制t时刻状态值m(t)对外多少是可见的门设备。遗忘门是控制历史状态m(t-1)流动到t时刻后允许多少进入t时刻的门设备。
所以关键在LSTM的状态值更新函数和隐层节点输出值函数上。对于状态更新函数来说，
最低0.47元/天 解锁文章
扫一扫
5万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
