蒙特卡洛马尔可夫链MCMC

B站UP主：shuhuai008

1.采样方法介绍

近似推断

• 确定性$\to VI$
• 随机$\to MCMC$

Monte Carlo Method:基于采样的随机近似方法

推断主要是求后验$P(z\mid x)\to$后验的期望$E_{z\mid x}[f(z)]=\int p(z\mid x)f(z)dz$，积分不好求一般采用数值积分的方式，从$q(z\mid x)$中采样：
$$\begin{gathered} z^{(1)},z^{(2)},\cdots ,z^{(N)}\sim p(z\mid x) \\ {E}_{z\mid x}[f(z)]=\int p(z\mid x)f(z)dz\approx \frac{1}{N}\sum _{i=1}^{N}f(z_i) \end{gathered}$$

如何从一个复杂的分布采样？

• 概率分布采样
  概率密度函数pdf $\to$ cdf
  $$\begin{gathered} u^{(i)}\sim U(0,1) \\ {x}^{(i)}=cd{f}^{-1}(u^{(i)}) \\ {x}^{(1)},x^{(2)},\cdots ,x^{(N)}N个样本 \end{gathered}$$
  从U中随机采样作为cdf的逆函数的输入，得到采样点$x^{(i)}$
  只有几个简单的pdf能求出对应的cdf
  
  

• 拒绝采样
  $q(z)$为提议分布
  $\forall z_i,Mq(z^{(i)})\ge p(z^{(i)})$
  定义$\alpha$为接受率，$\alpha =\frac{p(z^{(i)})}{Mq(z^{(i)})},0\le \alpha \le 1$，在$q(z)$内接受，否则拒绝。
  $$\begin{gathered} z^{(i)}\sim q(z) \\ u\sim U(0,1) \\ ifu\le \alpha \end{gathered}$$，接收$z^{(i)}$(绿线)
  $else$拒绝(红线)

• Importance Sampling
  重要性采样并不是对概率分布采样，它是对概率分布的期望进行采样，引入提议分布$q(z)$，从$q(z)$中采样。
  $$\begin{array}{rl}{E}_{p(z)}[f(z)]& =\int p(z)f(z)dz\\ & =\int \frac{p(z)}{q(z)}q(z)f(z)dz\\ & =\int f(z)\frac{p(z)}{q(z)}q(z)dz\\ & \approx \frac{1}{N}\sum _{i=1}^{N}f(z^{(i)})\frac{p(z^{(i)})}{q(z^{(i)})}\\ & z^{(i)}\sim q(z),i=1,\end{array}$$