降低方差的统计方差(其二):重要抽样法

§1.问题引入

速成看§2.1,§3,本文中的生成随机数均为独立生成

重要抽样法和平均值估计法有着非常密切的联系,可以说平均值估计法是重要抽样法的一种特殊情况,下面我们通过一个例子来引入重要抽样法

假设我们要通过平均值估计法来估计一个定积分,图像如下

会在A1,A2区域等概率的生成随机数,但是A2区域的值比A1区域的值要大,占主要部分,如果我们将更多的点用来估计A2,减小A2的误差,A1的点虽然变少了,但是由于A1本身比较小,用较少的点估计并不会相差很大,这样是不是能降低方差呢?

也可以参考以下文章的§3.2

写文章-CSDN创作中心

§2.重抽样法的详细介绍

§2.1重抽样法基本步骤

§2.1.1基本步骤

对于积分

1.选取适当的权因子1/g(X)

2.生成概率密度函数为g(X)的随机变量Y  (注意:g(X)是一个密度函数)

3.计算表达式,求均值即为积分的估计

§2.1.2函数g(Y)的选取

对于权因子的选择,g(X)一般选择与积分函数f(x)形状相似的函数,或者是f(x)的泰勒展开函数,要保证随机变量Y能够得到,且为概率密度函数

可以参考第3节的例子

§2.2无偏性方差减小证明(样本量为n)

§2.2.1对于无偏性

对积分做如下变换

可以知道积分值就是随机变量的平均值

§2.2.2对于方差减小的证明

令为所求积分值 

        2.2.2式

可以看到方差的表达式子,方差的大小由g(y)所决定,当g(y)==1时,Y就是均匀分布,就是平均值估计法,方差和平均值估计的方差一样,回顾上一节求得的平均值估计的方差为