UA STAT675 统计计算I 随机数生成7 Envelope Accept-Reject Algorithm

上一讲我们推导了Accept-Reject Algorithm

---

Algorithm 3: Accept-Reject Algorithm

Step 1: Generate $y\sim g$, $u\sim U(0,1)$
Step 2: If $u<\frac{f(y)}{Mg(y)}$, accept $y$ as a random number of $f$; otherwise, repeat Step 1-Step 2

---

它对所有的密度都适用，但前提是找到另一个密度作为工具密度，工具密度必须是目标密度的强函数；要提高这个算法的效率，最好的做法是设计一个$g$，它比$f$稍微大一点点但又特别接近，使得$M\approx 1$，这一讲我们就介绍一些常用的设计工具密度的方法。

Squeeze Principle

上一讲我们分析了Accept-Reject Algorithm的效率，也就是要生成1个目标密度的随机数，平均需要$M$个均匀分布与工具密度的随机数；一种可行的改进是给目标密度再找一个下界，进一步降低采样器的计算成本。

---

Algorithm 4: Envelope Accept-Reject Algorithm

Step 1: Generate $y\sim g_u$, $u\sim U(0,1)$
Step 2: If $u\le \frac{g_l(y)}{M{g}_u(y)}$, accept $y$ as a random number of $f$; otherwise, go to Step 3;
Step 3: if $u\le \frac{f(y)}{M{g}_u(y)}$, accept $y$ as a random number of $f$; otherwise, repeat Step 1-Step 3

---

算法分析

1. 算法适用条件：构造$g_l$与$g_u$满足$$g_l\le f\le g_u$$其中$g_u$是工具密度(instrumental density)、$f$是目标密度(target density)、$g_l$是辅助函数
2. 算法几何解释：$g_l,M{g}_u$构成了一个带状区域，$g_{}$