学习笔记5：自编码器（Autoencoder）

自编码器是一种特殊的神经网络（neural network），它的输出目标（target）就是输入（所以它基本上就是试图将输出重构为输入），由于它不需要任何人工标注，所以可以采用无监督的方式进行训练。

自编码器其实也是一种神经网络算法。它与神经网络的区别有：

1、自编码器适合无监督学习，即没有标注，也可以提取高阶特征；

2、输入与输出一致，期望提炼出高阶特征来还原自身数据。

3、单隐含层的自编码器，类似于主成分分析（PCA）

实际作用：

先用自编码器的方法进行无监督的预训练，提取特征并初始化权重，然后使用标注信息进行监督式的训练。

当然不局限于预训练，直接使用自编吗器进行特征提取与分析也是可以的（降维）。