[图解LSTM实现] cell state 和hidden state和output

原创已于 2023-03-28 14:06:17 修改 · 3k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#lstm #人工智能 #rnn

于 2023-03-28 11:56:08 首次发布

LSTM网络利用cellstate存储历史信息，通过遗忘门、输入门和输出门控制信息流。hiddenoutput是根据当前输入和cellstate计算的，表示LSTM在当前时刻的理解，用于输出或下一层处理。hiddenstate与outputstate在计算上相似，但前者用于下一时间步的输入，后者作为当前时间步的输出。

the hidden output is the output of the LSTM cell at each time step.

在LSTM中，cell state是LSTM中的记忆单元，用于保存先前的信息和计算新的信息。LSTM通过三个门控制cell state的流动，分别是遗忘门（forget gate）、输入门（input gate）和输出门（output gate）。

而hidden output则是LSTM的输出，是根据当前的输入和cell state计算得到的。它可以被看作是当前时刻的LSTM的“理解”或“编码”信息，可以被传递到下一层的LSTM或者用于预测任务。

因此，尽管LSTM中的cell state和hidden output都包含有关LSTM模型的信息，但它们的角色不同，cell state是用于存储先前的信息和计算新的信息，而hidden output是用于输出当前时刻的信息。

在 LSTM 中，hidden state 和 output state 的区别并不那么明显，因为这两者是基于相同的计算得到的。在 LSTM 的每个时间步，都会同时计算出一个 hidden state 和一个 output state。这两个状态的计算方式都涉及到对当前输入、前一个时间步的 hidden state 和 cell state 进行计算，但是它们最终的用途略有不同：hidden state 会在下一个时间步被用作输入，而 output state 会被作为当前时间步的输出。