应用统计-点估计法（1.矩估计 2.极大似然估计）

Brice Loskie

于 2023-12-04 18:48:40 发布

阅读量949

点赞数 10

文章标签：算法人工智能

本文链接：https://blog.csdn.net/fuxun222/article/details/127663013

版权

样本源于总体，带有总体的特性．因此，为了找到反映总体分布或反映总体特
征的某个未知参数0，我们自然想到通过样本 $X_1,X_2,...,X$ 构造某个统计量

作为总体参数 $\theta$ 的估计．相对于后面的区间估计而言，我们称这样的估计为参数的点估计，而称由式给出的估计量为 $\theta$ 的点估计量．若 $(x_1,x_2,..,x_n)$ 为样本
$X_1,X_2,...,X$ 的一个观测值，则称 $\widehat{\theta}(x_1,x_2,...,x_n)$ 为 $\theta$ 的点估计值．
下面介绍求参数点估计的两种方法．

1.矩估计法

设 $X_1,X_2,...,X$ 是来自总体X的样本，则由辛钦大数定律知，当总体的k阶原点矩 $EX^k$ 存在时，样本的K阶原点矩依概率收敛于总体k阶原点矩，即

因此，我们自然用样本的k阶原点矩作为总体k阶原点矩的估计．

设 $\theta_1,\theta_2,...,\theta_r$ 是反映总体分布或总体特征的r个未知参数，则总体的前r阶原点矩（设都存在）就应该是 $\theta_1,\theta_2,...,\theta_r$ 的函数．令它们为相应的总体原点矩，即得矩估计方程组

解之得未知参数 $\theta_1,\theta_2,...,\theta_r$ 的矩估计量

这种求参数 $\theta_1,\theta_2,...,\theta_r$ 估计法称为矩估计法．

本题补足：哪个是是矩估计量哪个是矩估计值，没有标明清楚

本题求的只是矩估计量

2.极大似然估计估计

设总体X是离散型随机变量，其分布律为

其中 $\theta_1,\theta_2,...,\theta_r$ 是未知参数．设X1 , X2, … ，凡为来自总体X 的样本，
$x_1,x_2,...,x_n$ 是一个样本观测值．那么作为n维随机变量 $X_1,X_2,...,X_n$ 在点
$x_1,x_2,...,x_n$ 取值的概率（即n维随机变量 $X_1,X_2,...,X_n$ 的联合分布律）为

其中

是 $\theta_1,\theta_2,...,\theta_r$ 从的函数，称为样本的似然函数．极大似然估计法（也称最大似然估计
法）的直观想法就是：既然 $x_1,x_2,...,x_n$ 作为样本的一次观测值已经出现，根据实
际推断原理， $\theta_1,\theta_2,...,\theta_r$ 的选取就应有利于样本的观测值 $x_1,x_2,...,x_n$ 出现，即
我们应当选取这样的 $\theta_1,\theta_2,...,\theta_r$ 使样本 $X_1,X_2,...,X_n$ 得样本观测值
$x_1,x_2,...,x_n$ 的概率(2. 6)或似然函数(2. 7)达到最大．即