参数估计之矩估计

1. 点估计定义

• 点估计定义

  设$x_1,x_2,\cdots ,x_n$ 是来自总体的一个样本，用于估计位置参数$\theta$的统计量$\hat{\theta }=\hat{\theta }(x_1,x_2,\cdots ,x_n)$称为$\theta$的估计量，或称为$\theta$的点估计，简称估计

• 构造估计量的方式有很多，常用的有矩估计法和最大似然估计法

2. 矩估计法

• 矩估计法简单点的说，就是用样本的矩，替换(估计)总体的矩。

  记总体$k$阶原点矩为 ${\mu }_k=E(X^k)$

  样本$k$阶原点矩为 $A_k=\frac{1}{n}\sum _{i=1}^n(X_i^k)$

  记总体$k$阶中心矩为 $v_k=E[(X-E(X){)}^k]$

  样本$k$阶中心矩为 $B_k=\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^k$

3. 通过例题理解矩估计法

• 例1，设总体$X$的均值$\mu$和方差${\sigma }^2$都存在，且有${\sigma }^2>0$，但$\mu ,{\sigma }^2$均为未知，又设$X_1,X_2,\cdots ,X_n$ 为来自$X$的样本，试求$\mu ,{\sigma }^2$的矩估计量。

  解：

  样本的一阶矩 为$\overline{X}$ ，总体的一阶矩为$E(X)=\mu$

  因此有$\hat{\mu }=\overline{X}$

  样本的二阶矩为$A_2=\frac{1}{n}\sum _{i=1}^n{X}_i^2$ ，总体的一阶矩为$E(X^2)$

  则有 $E(X^2)=\frac{1}{n}\sum _{i=1}^n{X}_i^2$

  由于$D(X)=E(X^2)-(EX{)}^2$

  因此有

  $$\begin{array}{rl}\widehat{{\sigma }^2}& =\frac{1}{n}\sum _{i=1}^n{X}_i^2-{\overline{X}}^2\\ & =\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^2\end{array}$$

• 例2，设离散型随机变量$X$ ，其分布律如下

  $$\begin{array}{clcc}X& 1& 2& 3\\ P& {\theta }^2& 2\theta (1-\theta )& (1-\theta {)}^2\end{array}$$

  从$X$中取得样本$1,2,1$ ，求$\theta$的矩估计量

  解：样本一阶矩$A_1=\frac{1}{3}(1+2+1)=\frac{3}{4}$

  总体一阶矩${\mu }_1=1\ast {\theta }^2+2\ast 2\theta (1-\theta )+3(1-\theta {)}^3$

  令 ${\mu }_1=A_1$ ，很容易解出 $\hat{\theta }=\frac{5}{6}$

4. 矩估计优缺点

• 优点
  1. 矩估计法原理简单、使用方便，使用时可以不知总体的分布，而且具有一定的优良性质
  2. 样本数量足够大时，矩估计的优势也就越明显
• 缺点
  1. 当总体类型已知时，没有充分利用分布提供的信息，因此矩估计不一定是理想估计
  2. 样本数较少时，矩估计的结果将非常糟糕
  3. 一般场合下，矩估计不具有唯一性(关于这一点，后面我们会介绍估计值的优良性准则)
  4. 矩估计应用的前提是总体的矩存在