压缩去噪利器---自编码器（AutoEncoder）

    Hello，又是一个分享的日子，上期博主介绍了巨人肩膀上的迁移学习（2）---图像回归，并介绍了图像在进入神经网络前的预处理工作。今天博主给大家分享的是深度学习的压缩去噪利器---自编码器（AutoEncoder）。

    这一期我们将分别利用CNN卷积神经网路和BP神经网络去搭建4种自编码器。博主也在往期的推文中也介绍了CNN卷积神经网络和BP神经网路的原理，还不熟悉CNN卷积神经网络原理的小伙伴可以翻一下：什么？卷积层会变胖？人工智能之光---CNN卷积神经网络（原理篇），深度学习开端---BP神经网络，这里博主就不进行过多的赘述了。

本文内容概要：

1.自编码器原理

2.多层自编码器

3.卷积自编码器

4.正则自编码器

4.1稀疏自编码器

4.2去噪自编码器

自编码器

 原理                                                                                     

      

自编码器是由nathan hubens提出的一种输入等于输出的神经网络模型，可能大家会疑惑为什么要训练一个这样的模型，毕竟输入等于输出在大家看来就是一件多此一举的事情。这里博主先给大家上一个模型图让大家感受一下。

上图是由BP神经网络组成的最简单的自编码器，只有三层结构，中间的隐藏层才是我们所需要关注的地方，以隐藏层为界限，左边为编码器（encoder）， 右边为解码器（decoder），所以在训练过程中，输入才能在经过编码后再解码，还原成原来的模样。

对传统机器学习有所了解的小伙伴应该都知道PCA（主成分分析），它是用来对数据进行降维的。不了解的小伙伴也没关系，我们现在学习的自编码器也有这个功能，所以学完之后再看PCA兴许会理解地更加深刻些。

现在我们看回上图，假如我们通过一组数据训练出了我们的自编码器，然后我们拆掉自编码器的解码器（decoder），就可以用剩下的编码器（encoder）来表征我们的数据了。隐藏层的神经元数目远低于输入层，那么就相当于我们用更少的特征（神经元）去表征我们的输入数据，从而达到降维压缩的功能。

接着，我们在文章开头提到过自编码器还有降噪的功能，那它是如何实现这个功能的呢？在此之前博主先给大家介绍下这期使用的数据集----minist手写体，这是keras自带的数据集，如下图。

这个数据集就是手写数字0~9的图像集合，上图第一行就是加噪后的手写体数据集，第二行则是原本的手写体数据集。我们把加噪后的数据集当成输入，原本的数据集当做输出，训练一个自编码器，让它在训练过程中学习数据的规律，从而把噪声去掉。这就是博主所说的去噪功能。

到这里，博主就已经把自编码器的原理和功能给大家讲清楚了。接下来，我们更进一步介绍几种有用的自编码器。

1. 普通自编码器：就是文章开头讲的最简单的自编码器。

2. 多层自编码器：多个BP神经网络隐藏层组成自编码器。