深度信念网络_Learning

1. 什么是深度信念神经网络？
答：深度信念神经网络，即：Deep Belief Network，是近年比较火的一种网络结构，在遥感分类中应用较多。深度信念神经网络是在深度神经网络结构的基础上的一种更新改进。（这样讲应该是不准确的，但对于初学者来说比较容易理解）
2. 什么是深度神经网络？
答：首次接触，可以联想到BP神经网络和卷积神经网络（CNN）。我们从传统的神经网络结构出发来对深度神经网络进行学习。我们以3层BP网络为例：
该网络结构由输入层、隐藏层、输出层构成。在传统的神经网络中，我们可以认为隐藏层是用于提取输入影像特征，故在这里也可写作特征层1（Feature 1）。在深度学习术语中，上述结构被称为自编码神经网络。传统的神经网络结构复习到这里。
下面，我们具体了解深度神经网络的结构是啥子样的。自编码神经网络能够实现对输入数据的重构（输入等于输入，允许存在一定的误差），如果这个网络结构已经训练好了，那么其中间层，就可以看作是对原始输入数据的某种特征表示。如果我们把它的第三层去掉，这样就是一个两层的网络。如果，我们把这个学习到的特征再用同样的方法创建一个自联想的三层BP网络，如上图所示。总结起来就是，第二次创建的三层自联想网络的输入是上一个网络的中间层的输出。用同样的训练算法，对第二个自联想网络进行学习。那么，第二个自联想网络的中间层是