深度学习源于神经网络的研究,可理解为深层的神经网络。通过它可以获得深层次的特征表示,免除人工选取特征的繁复冗杂和高维数据的维度灾难问题。目前较为公认的深度学习的基本模型包括:
- 基于受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)的深度信念网络(Deep Belief Network,DBN);
- 基于自动编码器(AutoEncoder, AE)的堆叠自动编码器(Stacked AutoEncoders,SAE);
- 卷积神经网络(Convolutional Neural Networks,CNN);
- 递归神经网络(Recurrent Neural Networks,RNN)。
1、深度信念网络DBN
DBN可用于特征提取和数据分类等。基于RBM的DBN由多个RBM堆叠而成,其结构如下图所示。
网络前向运算时,输入数据从低层RBM输入网络,逐层向前运算,得到网络输出。网络训练过程,不同于传统的人工神经网络(Artificial Neural