1.seq2seq模型是什么?
seq2seq 是一个 Encoder–Decoder 结构的网络,它的输入是一个序列,输出也是一个序列, Encoder 中将一个可变长度的信号序列变为固定长度的向量表达,Decoder 将这个固定长度的向量变成可变长度的目标的信号序列。
2.Encoder–Decoder 结构又是怎样的?
Encoder–Decoder 结构是由一个或多个 RNN (或LTSM或GRU)组成,Encoder对输入进行编码,然后将编码后的输出传到Decoder解码。结构如下图所示:
(1)Encoder(编码器)
每个时刻输入一个词,隐藏层状态根据公式ht