史上最全MNIST系列（五）——AutoEncoder（普通、降噪、收缩自编码）在MNIST上的Pytorch实现

一、自编码理论

1.1 自编码介绍

自编码网络是非监督学习领域中的一种，可以自动从无标注的数据中学习特征，是一种以重构输入信息为目标的神经网络，它可以给出比原始数据更好的特征描述，具有较强的特征学习能力，在深度学习中常用自编码网络生成的特征来取代原始数据，以取得更好的效果。自编码属于生成模型。

1.2 什么是自编码

什么是自编码？所谓自编码就是自己给自己编码，再简单点就是令输出等于输入自己。以一个简单三层网络为例如下：

自编码器通过隐藏层对输入进行了压缩，并在输出层中解压缩，整个过程肯定会丢失信息，但是通过训练我们能够使丢失的信息尽量减少，最大化的保留其主要特征。
编解码的过程：将输入数据放到网络，经过编码得到编码结果，再经过解码，得到输出（类似铸剑的过程，但生成后与原来不是完全一样）

1.3 其他编解码模型

seq2seq&#x