关于RBM那点事

什么是RBM?
RBM全称受限玻尔兹曼机(Restred Bolzmann Machine)是一种基于能量和能量分布的算法，其本身是由玻尔兹曼机这一神经网络演化而来，对于RBM来说，本身的显层和隐层在计算过程中不重视谁先谁后，显层可以计算传递给隐层，隐层也可以计算传递给显层，作为一种双向传播的网络，我们可以用下面免得示意图进行标识

RBM到底怎么理解：我们不妨理解RBM是一个编码和解码的过程，我们第一次向显层输入我们的样本总量，显层这个时候显示的是原始的数据情况，显层再通过激活函数传递给隐层，这时我们可以视为是编码的过程，那么根据Gibbs的情况，我们肯定有一些计算结果进入到隐层后是不符合或者不合法的，没关系，即使我们得到的是空输入，也不影响，因为对于显层和隐层来说，他们的结果不是由任意一个输入去决定的。说完了编码，我们回到解码问题，解码问题其实就是隐层通过激活函数再传递给显层，这个时候我们已经得到了一个从输入到显层，再从显层到隐层，再从隐层到显层，这时我们需要计算一次整个系统的能量，也就是下方附的能量函数，通过能量函数的计算，我们就得出了整个系统的能量总和，分别是隐层能量和显层能量以及链接显隐层的能量，那么我们就完成了一次编码到解码的过程，但是我们要清楚，RBM是关于能量的模型，也就是代表了，该模型每次运行时都会有能量的变化，可能是飙高，也可能是降低，这时候我们是需要一个损失函数去控制其变化࿰