随机过程--Metropolis-Hastings算法

随机过程–Metropolis-Hastings算法

蒙特卡罗方法

  蒙特卡罗(Monte Carlo)方法又称随机抽样或统计试验方法，简单地理解就是利用随机数去解决许多计算问题，通过实验去求解一些数学问题。通常是通过一些随机模拟实验去求解一些概率或者期望的问题。

生成随机数

  我们知道，其实计算机只能产生均匀分布的伪随机数，但很多时候，我们希望得到一连串服从一定分布（如高斯分布，泊松分布）的随机数。我们就要想办法把均匀分布的数映射到服从一定分布的数，这样就通过模拟生成一些服从一定分布的随机数来解决一些复杂的数学问题。

求解概率和期望问题

1. 求解概率问题
     贝叶斯先验转后验：
   $$p(\theta|D)=\frac{p(D|\theta)p(\theta)}{D}$$
      概率归一化问题：
   $$p(\theta)=\frac{\widetilde{p}(\theta)}{Z}$$
      通常，我们需要从贝叶斯后验和归一化后的概率中抽样，但是通常这两个概率很难求，主要是因为分母很难求，分母可能涉及到复杂的积分计算。因此，我们无法通过简单的数学公式将均匀分布的随机数映射到服从该分布的随机数。
2. 求解期望问题
     如上所述，如果一个概率的表达式没法求出，我们无法求得期望。但是如果我们能生成许多连续的服从该分布的随机数，根据切比雪夫大数定理就能通过简单地加和近似地求得概率。
   切比雪夫大数定理：
   $$\lim_{n \rightarrow \infty} p(|\frac{1}{S}\sum_{s=1}^S f(x_s) - \frac{1}{S}\sum_{s=1}^S E[f（X）]| < \epsilon)=1$$
   计算期望：
   $$E[f（X）]=\int f（x）p（x）d$$