RBM是多伦多大学的Hiton教授于1985年首先提出的一种基于能量的概率模型,Hiton教授也是深度学习被关注的开山人物,他在2006年的关于DBN的论文被当做深度学习的经典文章,他和他的学生们,对RBM和与RBM相关的DBM,DBN进行一系列研究与学习算法的改进。具体可参见他的个人主页http://www.cs.toronto.edu/~hinton/。Bengio教授写了好几【篇有关深度学习的总结文章,是全面了解基本框架的好的文章,对RBM从理论到应用,以及训练算法都有总结。Learning Deep Architectures for AI;Deep Learning of Representations:Looking Forward;Representation Learning: A Review and New Perspectives。这三篇文章实属经典。
随着深度学习的发展,RBM作为构成DBM,DBN的基础模块近年被广泛研究,对他的理解可以从能量模型,表达模型等方面进行,主要也是Hiton教授与相关其他大牛们在做。
GRBM:高斯RBM,Learning Multiple Layers of Features from Tiny Images;
mcRBM:均值——方差RBM,Modeling Pixel Means and Covariances Using Factorized Third-Order Boltzmann Machines;Factored 3-Way Restricted Boltzmann Machines
For Modeling Natural Images;也可以看做是一种high-orderBM,具体见H