马尔可夫链蒙特卡罗法

马尔可夫链蒙特卡罗法

蒙特卡罗法

思想：假设概率分布的定义已知，然后通过随机抽样获得概率分布的随机样本，通过得到的随机样本对概率分布的特征进行分析。
for example：从随机抽出的样本中计算出样本均值，从而得到总体的期望。
蒙特卡罗方法的核心：随机抽样
主要有直接抽样，接受-拒绝抽样，重要性抽样

随机抽样

接受拒绝抽样
input：抽样的目标概率分布的概率密度函数$p(x)$
output：概率分布的随机样本$x_1,x_2,...,x_n$
parameters：样本数n
建议分布：$q(x)$，概率分布：$p(x)$
$$u<=\frac{p(x^{\ast })}{cq(x^{\ast })}$$

数学期望估计

样本均值：$\widehat{f_n}$
$$\widehat{f_n}=\frac{1}{n}\sum _{i=1}^{n}f(x_i)$$
根据大数定律可知，当样本容量增大时，样本均值以概率1收敛于数学期望：
KaTeX parse error: Undefined control sequence: \verfy at position 34: …x)}[f(x)]~,~n->\̲v̲e̲r̲f̲y̲
$$E_{p(x)}[f(x)]=\frac{1}{n}\sum _{i=1}^{n}f(x_i)$$

积分计e算

$${\int }_{\mathcal{X}}h(x)dx$$
将$h(x)$分解成为一个函数$f(x)$和一个密度函数$p(x)$
$${\int }_{\mathcal{X}}h(x)dx={\int }_{\mathcal{X}}f(x)p(x)dx=E_{p(x)}[f(x)]$$

summery

一般的蒙特卡罗法中的抽样分布是独立的，而马尔可夫链蒙特卡罗法中的抽样样本不是独立的，样本序列形成马尔可夫链

马尔可夫链

基本定义

马尔可夫性：
P ( X t ∣ X 0 , X 1 , X 2 , . . . , X t − 1 ) = P (