训练Restricted Boltzmann Machine(RBM)十五个问题

训练Restricted Boltzmann Machine(RBM)十五个问题

      训练RBM涉及到的知识点太多了，涉及到多个学科，如数学中的概率论（概率模型）、统计学（统计推断）、高等数学（求导求最优），计算机中的图形学的有向图、无向图、双向图，数字信号处理中的采样，信息论中熵的概念等等。对于数学计算机基础不好的人来说，这简直要人小命。本文从数学的角度将列训练RBM时所遇到数学问题，然后提供解决这些问题的相关链接。欢迎各位大侠、牛人、美女、帅哥参与解答 。

1、RBM是什么的数学模型？

2、RBM模型是怎样求解的？

3、RBM的能量函数的数学意义是什么？

4、RBM的联合概率密度函数的数学意义是什么？

5、RBM的能量函数和RBM的联合概率密度函数的关系是？

6、如何通过RBM的能量函数求解RBM的联合概率密度函数，反之，如何通过RBM的联合概率密度函数求解RBM的能量函数？

7、如何求解RBM的能量函数中的参数？

8、如何求解RBM的联合概率密度函数中的参数？

9、RBM的联合概率密度函数跟RBM模型代价函数的联系是？

10、RBM模型的代价函数如何求导？

11、RBM的联合概率密度函数和RBM的条件概率密度函数的关系是？

12、Gibbs Sampling采样跟 RBM的条件概率密度函数有啥关系?

13、Gibbs Sampling采样跟CD算法有啥联系？

14、CD算法跟RBM的条件概率密度函数有啥关系?

15、怎样让RBM模型代价函数达到最优？