采样计算与期望

连续型随机变量的期望

$p(x)$为$随机变量X$的概率密度函数。
$$E[X]=\int xp(x)dx\text{\hspace{1em}(1)}$$

离散型随机变量的期望

$X的分布律为p(X=x_i)=p_i$
$$E[X]=\sum _i{x}_i{p}_i\text{\hspace{1em}(2)}$$

对于（1）式，如果我们从其定义域中选取若干个点$x_0,x_1,,,,x_n$，满足$x_i<x_{i+1}$，且$x_{i+1}-x_i$的值足够小，那么我们可以用$(x_{i+1}-x_i)来近似代替dx$，即
$$E[X]\approx \sum _{i=0}^{n-1}{x}_{i}p(x_i)(x_{i+1}-x_i)\text{\hspace{1em}(3)}$$

值得注意的是，在机器学习中，模型的方程中很多都是多变量的，当涉及边缘化时，也可以用期望来代替。
比如上面面的式子是最大化$\theta$，但是模型中还有其他变量$y和x$，所以要边缘化$x和y$使得最后只含有$\theta$。边缘化$x和y$也就是对$x和y$求期望。

采样与期望

对于（1）式，在现实中有时候由于$p(x)$太过复杂，积分积不出来，那么我们除了用（3）式的方法计算期望，还可以用采样的方法。
如果我们 从$p(x)$中采样若干个点$x_0,x_1,,,,x_m$ ，那么有
$$E[X]\approx \frac{1}{m+1}\sum _{i=0}^m{x}_i，x_i\sim p(x)\text{\hspace{1em}(4)}$$
比较（3）和（4）式，可以发现由于（3）式中样本点是从定义域中选取的，选取某一个点$x_i$的时候并没有考虑$x_i$的概率，所以在（3）式中计算时要加上概率的计算。而在（4）式中，采样是依据概率分布来采样的，概率大的$x_i$被采样的概率也高，采样的次数也就越多。所以已经考虑了$p(x_i)$，就不用再乘$p(x_i)$了。

更一般的，可以写出
$$E_{x\sim p(x)}[f(x)]=\int f(x)p(x)dx\approx \frac{1}{n}\sum _{i=0}^{n}f(x_i)，x_i\sim p(x)\text{\hspace{1em}(5)}$$

（5）式估计期望的方法也叫做蒙特卡洛估计。
我们其实可以发现KL散度也可以写成期望的形式。
$$\begin{array}{rl}KL(p(x)||q(x))=& \int p(x)ln\frac{p(x)}{q(x)}dx\\ =& E_{x\sim p(x)}[ln\frac{p(x)}{q(x)}]\\ =& \frac{1}{n}\sum _{i=1}^{n}ln\frac{p(x_i)}{q(x_i)}，x_i\sim p(x)\end{array}$$

参考：变分自编码器（二）：从贝叶斯观点出发