受限玻尔兹曼机网络结构图(RBM)
RBM包含两个层:可见层(visible layer)和隐藏层(hidden layer)。神经元之间的连接是全连接,即可见层中的每一个神经元与隐藏层中的神经元相连,隐藏层中的神经元也与可见层中的每一个神经元连接。
BMP简单解释
能量函数和概率分布
RBM模型是一个基于能量的模型,因此要首先定义一个能量函数,并利用能量函数引入一系列的相关概率分布函数
具体推导过程:
对数似然函数
对比散度算法训练RBM
参考资料:<<Automatic Speech Recognition A Deep Learning Approach>>