蒙特·卡罗方法(Monte Carlo method)也称统计模拟方法,通过重复随机采样模拟对象的概率与统计的问题,在物理、化学、经济学和信息技术领域均具有广泛应用。拒绝采样(reject sampling)就是针对复杂问题的一种随机采样方法。
首先举一个简单的例子介绍Monte Carlo方法的思想。假设要估计圆周率 π \pi π 的值,选取一个边长为1的正方形,在正方形内作一个内切圆,那么我们可以计算得出,圆的面积与正方形面积之比为 π / 4 \pi/4 π/4 。现在在正方形内随机生成大量的点,如图1所示,落在圆形区域内的点标记为红色,在圆形区域之外的点标记为蓝色,那么圆形区域内的点的个数与所有点的个数之比,可以认为近似等于 π / 4 \pi/4 π/4 。因此,Monte Carlo方法是通过随机采样的方式,以频率估计概率。
简单分布的采样,如均匀分布、高斯分布、Gamma分布等,在计算机中都已经实现,但是对于复杂问题的采样,就需要采取一些策略, 拒绝采样就是一种基本的采样策略,其采样过程如下:
给定一个概率分布 p ( z ) = 1 Z p p ~ ( z ) p(z)=\dfrac{1}{Z_p}\tilde{p}(z) p(z)=Zp1p~(z) 其中 p ~ ( z ) \tilde{p}(z)