importance sampling

转载：https://blog.csdn.net/wangpeng138375/article/details/74645637

问题： 
g(x)已知，为x的函数，p(x)为随机变量x的概率密度函数，p(x)解析式已知，计算g(x)在p(x)分布下的均值（数字特征）。 
方法： 
Ep(x)(g(x))=∫xg(x)p(x)dx
Ep(x)(g(x))=∫xg(x)p(x)dx

但是现在的问题是此定积分很难计算，所以需要使用采样的方法。参照p(x)采样N个样本，按照如下方法计算： 
Ep(x)(g(x))≈E^p(x)(g(x))=1N∑i=1Ng(xi)
Ep(x)(g(x))≈E^p(x)(g(x))=1N∑i=1Ng(xi)

但是，问题又来了，很难从p(x)中采样！ 
方法： 
选择一个容易采样的分布q(x),把计算均值的公式做如下转换： 
Ep(x)(g(x))=∫xg(x)p(x)dx=∫xg(x)p(x)q(x)q(x)dx=Eq(x)(g(x)p(x)q(x))
Ep(x)(g(x))=∫xg(x)p(x)dx=∫xg(x)p(x)q(x)q(x)dx=Eq(x)(g(x)p(x)q(x))
现在参照q(x)采样N个样本(x1,x2,……，xN)，计算如下： 
Ep(x)(g(x))≈E^p(x)(g(x))=E^q(x)(g(x)p(x)q(x))=1N∑i=1N[g(xi)p(xi)q(xi)]