玻尔兹曼机(Boltzmann机)和深度置信网络基本概念

玻尔兹曼机(Boltzmann机）是一种随机神经网络，借鉴了模拟退火思想。普通玻尔兹曼机是一种递归神经网络，受限玻尔兹曼机则不是。它具有一定的“爬山能力”（跳出局部最优）。

Boltzmann机是一种“基于能量的模型”，其为网络状态定义一个“能量”，当能量最小化时网络达到理想状态。它的特点是：两层结构，显层与隐层，显层即代表输入也代表输出，隐层则被理解为数据的内部表达；神经元是布尔型。

深度置信网络（Deep Belief Networks）DBN算法是神经网络的一种，既可以用于非监督学习，也可以用于监督学习。DBN是一个概率生成模型，**不仅可以使用DBN来识别特征、分类数据，还可以用它来生成数据。**通过训练其神经元间的权重，可以让整个神经网络按照最大概率来生成训练数据。

DBN 由多层神经元构成，这些神经元又分为显性神经元和隐性神经元（以下简称显元和隐元）。**显元用于接受输入，隐元用于提取特征。**因此隐元也有个别名，叫特征检测器 (feature detectors)。最顶上的两层间的连接是无向的，组成联合内存。较低的其他层之间有连接上下的有向连接。最底层代表了数据向量 ，每一个神经元代表数据向量的一维。

• 受限玻尔兹曼机是DBN 的组成元件，训练 DBN 的过程是一层一层地进行的。在每一层中，用数据向量来推断隐层，再把这一隐层当作下一层 (高一层) 的数据向量。