样本方差为何除以n-1

title: 样本方差为何除以n-1mathjax: truecategories: ML

博客主站链接：https://fainke.com
**1.**设样本均值为$\overline{X}$，样本方差为$S^2$，总体均值为$\mu$，总体方差为${\sigma }^2$，那么样本方差$S^2$的公式为：$S^2=\frac{1}{n-1}{\sum }_{i=1}^n{\left(x_i-\overline{X}\right)}^2$

2.知识补充

（1）为何样本均值的方差等于总体方差除以总体单位数？

答：设X为随机变量，X1,X2,…,Xn为其n个样本，D(X)为方差。根据方差的性质，有$D(X+Y)=DX+DY$，以及$D(kX)=k^2\ast D(X)$，其中X和Y相互独立，k为常数。于是有$D\left(\frac{{\sum }_{i=1}^n{X}_i}{n}\right)=D\left({\sum }_{i=1}^n\frac{X_i}{n}\right)=\frac{{\sum }_{i=1}^{n}D\left(X_i\right)}{n^2}=\frac{1}{n}D(X)$

3.公式证明

假设样本方差的公式为:$S_1^2=\frac{1}{n}{\sum }_{i=1}^n{\left(X_i-\overline{X}\right)}^2$有：

$E\left(S_1^2\right)=\frac{1}{n}{\sum }_{i=1}^{n}E\left({\left(X_i-\overline{X}\right)}^2\right)=\frac{1}{n}E\left({\sum }_{i=1}^n{\left(X_i-\mu +\mu -\overline{X}\right)}^2\right)$
$=\frac{1}{n}E\left({\sum }_{i=1}^n\left({\left(X_i-\mu \right)}^2-2\left(X_i-\mu \right)(\overline{X}-\mu )+(\overline{X}-\mu {)}^2\right)\right)$
$=\frac{1}{n}E\left({\sum }_{i=1}^n{\left(X_i-\mu \right)}^2-2{\sum }_{i=1}^n\left(X_i-\mu \right)(\overline{X}-\mu )+n(\overline{X}-\mu {)}^2\right)$
$=\frac{1}{n}E\left({\sum }_{i=1}^n{\left(X_i-\mu \right)}^2-n(\overline{X}-\mu )(\overline{X}-\mu )+n(\overline{X}-\mu {)}^2\right)$
$=\frac{1}{n}E\left({\sum }_{i=1}^n{\left(X_i-\mu \right)}^2-nE(\overline{X}-\mu )(\overline{X}-\mu )+n(\overline{X}-\mu {)}^2\right)$
$=\frac{1}{n}\left({\sum }_{i=1}^n{\left(X_i-\mu \right)}^2-nE(\overline{X}-\mu )(\overline{X}-\mu )+n(\overline{X}-\mu {)}^2\right)$
$=\frac{1}{n}(n\mathrm{Var}(X)-n\mathrm{Var}(\overline{X}))$
$=\mathrm{Var}(X)-\mathrm{Var}(\overline{X})={\sigma }^2-\frac{{\sigma }^2}{n}=\frac{n-1}{n}{\sigma }^2$

样本方差有偏是因为样本均值相对总体有偏，在这种情况下，样本方差比总体方差小1/n个总体方差，所以分母为n-1即可做到无偏。