bootstrap方法

非参数bootstrap方法

设总体分布$F$未知，但是有一个容量为$n$的来自分布$F$的数据样本，自这一样本按照放回抽样的方法抽取一个容量为$n$的样本，这种样本被称为$bootstrap$样本或自助样本。

相继的，独立地自原始样本中取很多个$bootstrap$样本,利用这些样本对总体$F$进行统计推断，这种方法称为非参数$bootstrap$方法又称自助法

这种方法可以用于当人们对总体知之甚少的情况。

估计量的标准误差的bootstrap估计

在估计总体未知参数$\theta$时，人们不但要给出$\theta$的估计$\hat\theta$,还需要指出这一估计$\hat\theta$的精度，通常我们使用估计量$\hat\theta$的标准差$\sqrt{D(\hat\theta)}$来度量估计的精度。估计量$\hat{\theta}$的标准差$\sigma_{\hat{\theta}}=\sqrt{D(\hat\theta)}$也称为估计量$\hat\theta$的标准误差

设$X_1,X_2,\cdots,X_n$是来自以$F(x)$为分布函数的总体的样本，$\theta$是我们感兴趣的未知参数，用$\hat\theta=\hat\theta(X_1,X_2,\cdots,X_n)$作为$\theta$的估计量，在应用中$\hat\theta$的抽样分布通常是很难处理的，这样$\sqrt{D(\theta)}$没有一个简单的表达式，不同我们可以采用计算机模拟的方法求得$\sqrt{D(\hat\theta)}$的估计。
为此可以从$F$中产生很多容量为$n$的样本(例如$B$个)，对于每一个样本计算$\hat\theta$的值，得到$\hat\theta_1,\hat\theta_2,\cdots,\hat\theta_B$，则$\sqrt{D(\hat\theta)}$可以用：

$$\hat\sigma_{\hat\theta}=\sqrt{\dfrac{1}{B-1}\sum_{i=1}^{B}(\hat\theta_i-\overline\theta)^2}$$ 来估计，其中 $\overline{\theta}=\dfrac{1}{B}\sum_{i=1}^{B}\hat\theta$_i