1.在受限波尔茨曼机（RBM）基础上直接叠加会变成深度信念网络（DBN）
2.深度波尔茨曼机（DBM）是把有向图部分变为无向图的DBN
3.求解DBM采取随机梯度上升法
模型介绍
波尔茨曼机（Boltzmann Machine）是深度学习很重要的一种系列模型。在概率图模型中，我们介绍了受限波尔茨曼机（RBM）的模型表示，之后在深度学习开篇不久给出了其Learning问题的一种解法。
接着我们尝试在RBM基础上做迭加——深度信念网络（DBN），在是贝叶斯网络与马尔科夫网络的混合模型。
传送门：
深度波尔茨曼机（DBM）是深度学习的重要模型，由多个受限波尔茨曼机（RBM）叠加而成，其中无向图部分增加了模型的复杂性。DBM的预训练过程涉及多个RBM的层层学习，使用随机梯度上升法解决Learning问题。在训练过程中，避免double counting problem的方法是通过复制顶层和底层节点。DBM的优化通常通过正负相目标函数分解进行。
最低0.47元/天 解锁文章
946
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
