机器学习|点估计 引入|10mins入门|概统学习笔记（二十三）

点估计

• 一、引入问题： 已知某地区新生婴儿的体重 X~$N(\mu ,{\sigma }^2),\mu$和$\sigma$未知

  随机抽查100个婴儿得100个体重数据（10, 8, 6, 12, 5, …）,而全部信息就由这100个数组成。据此，我们应如何估计$\mu$和$\sigma$呢?

  为估计$\mu$,我们需要构造出适当的样本的函数$T(X_1,X_2,...,X_n)$,每当有了样本，就带入该函数中算出一个值，用来作$\mu$的估计值。

  （1）$T(X_1,X_2,...,X_n)$称为参数$\mu$的点估计量

  （2）把样本值带入$T(X_1,X_2,...,X_n)$中，得到$\mu$的一个点估计值。

  请注意，被估计的参数$\mu$是一个未知常数，而估计量$T(X_1,X_2,...,X_n)$是一个随机变量，是样本的函数，当样本取定后，它是个已知的数值，这个数常称为$\mu$的估计值。

  思考

  （1）使用什么的统计量去估计$\mu$？

  ​ – 样本均值

  ​ – 样本中位数

  ​ – 其他统计量

  （2）所使用的统计量是否是好的估计量？

• 二、我们知道，服从正态分布的$N(\mu ,{\sigma }^2)$的随机变量，$E(X)=\mu$，由大数定律知
  l i m n → ∞ P { ∣ 1 n ∑ i = 1 n X i − μ ∣ < ϵ } = 1 lim_{n\to \infty}P\{|\frac{1}{n}\sum_{i=1}^nX_i-\mu|<\epsilon\}=1 limn→∞​P{∣n1​i=1∑n​Xi​−μ∣<ϵ}=1
  自然想到把样本体重的平均值（$\frac{1}{n}{\sum }_{i=1}^n{X}_i$）作为总体平均体重的一个估计。

  用样本体重的均值$\overline{X}$估计$\mu$，$\overline{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$

  用样本体重的方差$S^2$估计${\sigma }^2$, $S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\overline{X}{)}^2$

  思考

  （1）样本均值是否是$\mu$的一个好的估计量？

  （2）样本方差是否是$\sigma$的一个好的估计量？

  需要讨论的问题？

  （1）我们希望一个”好的“估计量具有什么特性？

  （2）怎样决定一个估计量是否比另一个估计量”好“？

  （3）如何求得合理的估计量？