61 编码器-解码器架构【动手学深度学习v2】
深度学习学习笔记
学习视频:https://www.bilibili.com/video/BV1c54y1E7YP/?spm_id_from=autoNext&vd_source=75dce036dc8244310435eaf03de4e330
CNN:给个图片,经过各种Layer做特征提取,最后得到预测结果。特征提取可以看做在编码,解码器就是将中间形式翻译成我想要的形式(最后的分类器就可看做解码器)。
RNN:给个句子,对句子进行向量输出,最后时刻的隐藏层的输出,这些步骤就是编码器,最后做个全连接层得到需要形式就是解码器。
模型被分成两块,encoder和decoder(也可以有个额外的输入)。之后做成进行翻译的模型。
模型抽象成编码器,解码器主要用于输出。