参数估计

一、参数估计的一般问题

1.1 估计量与估计值

估计量：用于估计总体参数的随机变量
估计值：估计参数时计算出来的统计量的具体值

1.2 点估计和区间估计

∙ 点估计：

用样本的估计值的某个取值直接作为总体参数的估计值
无法给出估计值接近总体参数程度的信息

∙ 区间估计：

在点估计的基础上，给出总体参数估计的一个区间范围，该区间由样本统计量加减估计误差得到
根据样本统计量的抽样分布能够对样本统计量与总体参数的接近程度给出一个概率度量

∙ 置信水平：

将构造置信区间的步骤重复多次，置信区间包含总体参数真值的次数所占比例为置信水平

∙ 置信区间：

由样本统计量所构造的总体参数的估计区间为置信区间

1.3 评价估计量的标准

∙ 无偏性：

估计量抽样分布的期望等于被估计的总体参数

∙ 有效性：

对同一总体参数的两个无偏点估计量，由更小标准差的估计量更有效

∙ 一致性：

随着样本量增大，估计量的值愈来愈接近被估计的总体参数

1.4 点估计

设总体X的分布函数形式已知，但它的参数未知，借助于总体X的一个样本来估计总体未知参数的值的问题为点估计问题

估计量的求法：

∙ 矩估计：

用样本矩来估计总体矩，用样本矩的连续函数来估计总体矩的连续函数，这种估计方法为矩估计

∙ 最大似然估计：(概率模型)

最小二乘估计（描述损失）
贝叶斯估计（因果）
EM估计

二、一个总体参数的区间估计

2.1 总体均值的区间估计

t分布：

总体均值的区间分布（小样本）：

t_scale:

2.2 总体比例的区间估计

2.3 总体方差的区间估计

2.4 小结

三、两个总体参数的区间估计

3.1 两个总体均值之差的区间估计

两个总体均值之差的区间估计（独立大样本）：


z_scale:

两个总体均值之差的区间估计（独立小样本）：

小样本：方差不等

小样本：方差相等


两个总体均值之差的区间估计（匹配大样本）：

3.2 两个总体比例之差的区间估计

3.3 两个总体方差比的区间估计

3.4 小结