起源
对于来自同一总体的随机样本 X 1 , X 2 , ⋯ , X n − 1 X_1,X_2,\cdots,X_{n-1} X1,X2,⋯,Xn−1,我们能够轻易地算出这个样本下的两个统计量:样本均值以及样本方差。
此时,样本均值为: X ˉ n − 1 = 1 n − 1 ∑ i = 1 n − 1 X i \bar X_{n-1}=\cfrac{1}{n-1}\sum_{i=1}^{n-1}X_i Xˉn−1=n−11∑i=1n−1Xi
样本方差为: S n − 1 2 = 1 n − 2 ∑ i = 1 n − 1 ( X i − X ˉ n − 1 ) 2 S_{n-1}^2=\cfrac{1}{n-2}\sum_{i=1}^{n-1}(X_i-\bar X_{n-1})^2 Sn−12=n−21∑i=1n−1(Xi−Xˉn−1)2
*[样本均值/样本方差]:应当注意的是此处样本均值和样本方差是随机变量而非一个固定的数。因为各个 X i X_i Xi都是随机变量,样本均值和样本方差都是随机变量的函数,因此都是随机变量了。
异变
人类只要还活着,就必须向前进,不要停下来啊!
——沃·斯基硕德
当抽了n-1个样本之后,不满足的人类在同样的总体中,再次使用随机抽样的方法抽得一个新的样本: X n X_n Xn。
由于样本Xn是遵循随机抽样的原则抽出的样本。因此X1,…,Xn互相独立。并且都同分布于总体的分布。
于是,一个有吸引力的问题诞生了:新抽取的样本,会怎样改变样本均值和样本方差呢?
我们知道,再次抽取了一个样本后:
样本均值变为: X ˉ n = 1 n ∑ i = 1 n X i \bar X_{n}=\cfrac{1}{n}\sum_{i=1}^{n}X_i Xˉn=n1∑i=1nXi
样本方差变为: S n 2 = 1 n − 1 ∑ i = 1 n ( X i − X ˉ n ) 2 S_{n}^2=\cfrac{1}{n-1}\sum_{i=1}^{n}(X_i-\bar X_{n})^2 Sn2=n−11∑i=1n(Xi−Xˉn)2
本源
样本均值
对于增加样本之后的样本均值,我们进行适当的展开:
X ˉ n = 1 n ( ∑ i = 1 n − 1 X i + X n ) = n − 1 n X ˉ n − 1 + 1 n X n (1.1) \bar X_n=\cfrac{1}{n}(\sum_{i=1}^{n-1}X_i+X_n)=\cfrac{n-1}{n}\bar X_{n-1}+\cfrac{1}{n}X_n \tag{1.1} Xˉn=n1(i=1∑n−1Xi+Xn)=nn−1Xˉn−1+n1Xn(1.1)
由于只考虑样本均值的变化,我只希望出现 X ˉ n − 1 \bar X_{n-1} Xˉn−1以及 X ˉ n \bar X_n Xˉn。不希望出现 X n X_n Xn。于是我们对上述公式进行变换:
X n = n X ˉ n − ( n − 1 ) X ˉ n − 1 (1.2) X_n=n\bar X_n-(n-1)\bar X_{n-1} \tag{1.2} Xn=nXˉn−(n−1)Xˉn−1(1.2)
样本方差
由于样本方差的计算需要借助样本均值,所以有了(1.2)式之后,我们就能更好地观察增加一个样本对于方差的改变了。
在这里,使用一个统计学推导过程中经常能用到的小技巧:
S n 2 = 1 n − 1 ∑ i = 1 n ( X i − X ˉ n ) 2 = 1 n − 1 ∑ i = 1 n [ ( X i − X ˉ n − 1 ) + ( X ˉ n − 1 − X ˉ n ) ] 2 S_n^2=\cfrac{1}{n-1}\sum_{i=1}^{n}(X_i-\bar X_{n})^2 \\ =\cfrac{1}{n-1}\sum_{i=1}^{n}[(X_i-\bar X_{n-1})+(\bar X_{n-1}-\bar X_n)]^2 S<