解决RNN中存在的问题:记忆的时长有问题,神经网络忘记了之前的信息,只能记忆时间非常短的一段信息,多较长时间的逻辑关系记忆不是很好;RNN不好训练
LSTM会忘记不重要的信息,而会记住长时间以前比较重要的逻辑关系;且训练更好
LSTM
让cell中的计算很复杂,包含四层 et gate layer,判断对整个序列是否有帮助;input gate layer;current state,output layer
解决RNN中存在的问题:记忆的时长有问题,神经网络忘记了之前的信息,只能记忆时间非常短的一段信息,多较长时间的逻辑关系记忆不是很好;RNN不好训练
LSTM会忘记不重要的信息,而会记住长时间以前比较重要的逻辑关系;且训练更好
LSTM
让cell中的计算很复杂,包含四层 et gate layer,判断对整个序列是否有帮助;input gate layer;current state,output layer