深度学习知识点1--编码器与解码器

编码器（Encoder）

是接收输入序列，并将其转换成固定长度的上下文向量（context vector）。这个向量是输入序列的一种内部表示，捕获了输入信息的关键特征。

编码器可以是任何类型的深度学习模型，但循环神经网络（RNN）及其变体，如长短期记忆网络（LSTM）和门控循环单元（GRU），因其在处理序列数据方面的优势而被广泛使用。

解码器（Decoder）

解码器的目标是将编码器产生的上下文向量转换为输出序列。在开始解码过程时，它首先接收到编码器生成的上下文向量，然后基于这个向量生成输出序列的第一个元素。接下来，它将自己之前的输出作为下一步的输入，逐步生成整个输出序列。

解码器也可以是各种类型的深度学习模型，但通常与编码器使用相同类型的模型以保持一致性。

参考：编码器-解码器模型（Encoder-Decoder) - 知乎