BP算法和RNN_深度学习模型DBN、SAE、CNN、RNN介绍

深度学习源于神经网络的研究，可理解为深层的神经网络。通过它可以获得深层次的特征表示，免除人工选取特征的繁复冗杂和高维数据的维度灾难问题。目前较为公认的深度学习的基本模型包括：

• 基于受限玻尔兹曼机(Restricted Boltzmann Machine，RBM)的深度信念网络(Deep Belief Network，DBN)；
• 基于自动编码器(AutoEncoder, AE)的堆叠自动编码器(Stacked AutoEncoders，SAE)；
• 卷积神经网络(Convolutional Neural Networks，CNN)；
• 递归神经网络(Recurrent Neural Networks，RNN)。

1、深度信念网络DBN

DBN可用于特征提取和数据分类等。基于RBM的DBN由多个RBM堆叠而成，其结构如下图所示。

网络前向运算时，输入数据从低层RBM输入网络，逐层向前运算，得到网络输出。网络训练过程，不同于传统的人工神经网络(Artificial Neural