首先玻尔兹曼机(BM)是是一个能量模型,也是一个随机概率模型,也是一个神经网络模型,分为输入层和输出层两层。层与层之间相互连接,同一层的神经元之间也相互连接,具体结构如下:
玻尔兹曼机很强大,然而训练这个模型的计算量过大,从而产生了受限玻尔兹曼机(restricted Boltzmann machine),也就是我们所要讲的RBM,相较于BM,受限玻尔兹曼机只让两个层之间的神经元有连接,既 没一层之间的各个神经元相互独立。结构图如下:底部为可见层(visible),上方为隐藏层(hidden),对可见层我们用字母v表示,对隐藏层我们用字母h表示,可见层和隐藏层之间的连接权重我们用W表示:
上面讲的都是RBM模型的结构,接着我们要引入一些RBM的内核部分了,这是最重要的部分:
首先是能量函数E(v,h):
很多人首次接触的时候对这个函数都会感觉不知所云,这个时候大家不要方,可以搜一搜伊辛模型来看看,然后就会有些感悟了,总的来说,系统的能量越底,系统越稳定