数理统计｜参数估计

前言

  学了很久数理统计，总觉得知识在脑海中没有清晰的轮廓，虽然也可以自己通过纸和笔整理，但也想要通过新的方式：用文字的方式输出，这一想法已经在我脑海里盘旋了好久，终于在今天落实。

一、参数估计内容

1.参数估计的requisites

  我默认大家已经掌握了基本的概率论知识，例如了解概率空间、随机变量、概率的含义，会求随机变量的分布函数、数字特征，对基本的大数定理和中心极限定理有一些了解，最好还要知道三大抽样分布的性质。

但是还是简单提一下统计量的概念吧：统计量是从样本中得到的，是样本的函数，统计量不含有任何未知参数。

2.参数估计的目的

  我们在统计中，总是想要通过样本去推断总体的性质，而引进统计量，就是对样本进行描述的过程。实际中，我们感兴趣的问题总是与总体分布中的未知参数有关系，所以，我们要对参数进行估计和检验。
这里的参数是指：

• 分布中的未知参数和未知参数的函数
• 分布的各种特征函数

3.参数估计的类型和使用

在此之间，我们必须要明确一点，估计是一个方法，不是一个具体算出来的值；只是，在给定样本以后，用这种估计的方法，可以算出数值。

3.1 点估计

  点估计，顾名思义是对某个未知参数的值的估计，就像是数轴上的一个点。因此我们的目的也就是找到一个未知参数的好的估计量。
  知道点估计的含义以后，我们先来看看常用的找估计量的方法：

• 矩估计
• 最大似然估计
• 最小方差无偏估计
• 贝叶斯估计

3.1.1 矩估计

  矩估计的基本原理就是：替换原理通过样本的矩替换总体的矩，用样本矩的函数替换总体矩的函数。
  这么做的好处是：在总体分布函数未知的情况下，通过样本的特征数可以对各种参数进行估计。
  矩估计的实质是：用样本的经验分布函数去替换总体的分布，理论基础是格里纹科定理。
  具体的操作就是：

1. 假设已知