1.LSTM
lstm是由输入门,遗忘门,输出们和一个cell组成。第一步是决定从cell状态中丢弃什么信息,然后再决定有多少新的信息进入到cell状态中,最终基于目前的cell状态据欸的那个输出什么样的信息。
2.GRU
gru是由重置门和更新门组成的,其输入为前一时刻隐藏层的输出和当前的输入,输出为下一时刻隐藏层的信息。重置门用来计算候选隐藏层的输出,起作用是控制保留多少前一时刻的隐藏层。更新门的作用是控制加入多少候选隐藏层的输出信息,从而得到当前隐藏层的输出。
lstm是由输入门,遗忘门,输出们和一个cell组成。第一步是决定从cell状态中丢弃什么信息,然后再决定有多少新的信息进入到cell状态中,最终基于目前的cell状态据欸的那个输出什么样的信息。
gru是由重置门和更新门组成的,其输入为前一时刻隐藏层的输出和当前的输入,输出为下一时刻隐藏层的信息。重置门用来计算候选隐藏层的输出,起作用是控制保留多少前一时刻的隐藏层。更新门的作用是控制加入多少候选隐藏层的输出信息,从而得到当前隐藏层的输出。