马尔科夫链蒙特卡洛法适合于随机变量是多元的、密度函数是非标准形式的随机变量各分量不独立的情况。如何构建具体的马尔科夫链是这个方法的关键,离散变量的时候,需要定义转移矩阵,构建可逆马尔科夫链,保证遍历定理成立。常用的马尔科夫链蒙特卡洛法有Metropolis-Hasting算法,吉布斯抽样。
1 基本步骤
1)首先,在随机变量x的状态空间S上构造一个满足遍历定理的马尔科夫链,使其平稳分布为目标分布p(x);
2)从状态空间的某一点x0出发,用构造的马尔科夫链进行随机游走,产生样本序列x0,x1,x2..,xt,..。
3)应用马尔科夫链遍历定理,确定正整数m、n,得到样本集合求得函数f(x)的均值(遍历均值)
满足遍历定理的马尔科夫链时间趋于无穷时马尔科夫链的状态分布趋于平稳分布,随机变量的函数的样本均值以概率1收敛于该函数的数学期望
Metropolis-Hastings算法
1 基本原理
1.1 马尔科夫链
假设