自编码器是一种特殊的神经网络(neural network
),它的输出目标(target
)就是输入(所以它基本上就是试图将输出重构为输入),由于它不需要任何人工标注,所以可以采用无监督的方式进行训练。
自编码器其实也是一种神经网络算法。它与神经网络的区别有:
1、自编码器适合无监督学习,即没有标注,也可以提取高阶特征;
2、输入与输出一致,期望提炼出高阶特征来还原自身数据。
3、单隐含层的自编码器,类似于主成分分析(PCA)
实际作用:
先用自编码器的方法进行无监督的预训练,提取特征并初始化权重,然后使用标注信息进行监督式的训练。
当然不局限于预训练,直接使用自编吗器进行特征提取与分析也是可以的(降维)。