shjhiahia的博客

原创 Sequence to Sequence Learning with Neural Networks论文阅读

Sequence to Sequence Learning with Neural Networks Motivation：深度神经网络不能将序列映射到序列 方法： 使用一个多层LSTM将输入序列映射为固定维度的向量 使用另一个深度LSTM将向量解码为目标序列（四层） 颠倒源句子中单词的顺序，目标句子中没有颠倒，这样会显著提升LSTM的性能 上述小技巧，引入了源句子和目标句子之间的许多短期依赖关系，使得模型在长句子情况下表现更好。另外，LSTM相较于RNN的优势在于，长期时间依赖性。 传统方