今天就来讨论下deep learning怎么来处理real valued data。对于图像来说,二值图像毕竟是少数,更多的还是实值图像。对于这样的情况,RBM已经无法很好的处理它们,因此需要改进它,对于了解计算机视觉的人而言,想必高斯混合背景模型大家已不陌生,高斯混合模型可以很好的对实值图像建模,OpenCV中早就用高斯混合背景模型来分割物体。接下来要引出的高斯有限制玻尔兹曼机(Gaussian Restricted Boltzmann machine-GRBM)和高斯混合模型有一定的等价性。
在上一节中,作者提到过对于RBM这个无向图模型而言,无论是给定隐藏节点还是可视节点,剩下的那层内节点之间互相独立。那么对于RBM这个图模型描述的联合分布可以分解成(公式一)的形式:
(公式一)
其中P(h)可看成高斯混合系数,如果P(v|h)是高斯分布,那么这个条件下的RBM就和高斯混合分布具有等价性。因此GRBM合理登场 ,下面开始进入GRBM正题,首先当然要假定P(v|h)服从高斯分布,不然没法进展下去咯,先来看下GRBM的能量公式定义(公式二):
(公式二)