概论_第7章_参数估计_点估计之极大似然估计__性质

一 性质

极大似然估计 有一个简单有用的性质：

如果 $\hat{\theta }$ 是 $\theta$的极大似然估计， 则对任一 $\theta$的函数$g(\theta )$, 其极大似然估计为 $g(\hat{\theta })$ .

该性质称为极大似然估计的不变性，它使得一些复杂结构的参数的极大似然估计的获得变得容易了。

二 一些重要结论

1. 对均匀分布的总体U(0, $\theta$)， $\theta$的极大似然估计为 $\hat{\theta }=max${$x_1,x_2,...,x_n$}

2. 对指数分布的总体E($\lambda$), $\lambda$的极大似然估计为$\hat{\lambda }$ = $1/\overline{x}$ , 另外$\lambda$的矩估计也为 $1/\overline{x}$,

3. 对正态总体N($\mu ,{\sigma }^2$), 未知参数 $\theta =(\mu ,{\sigma }^2)$, $\mu$的极大似然估计为$\hat{\mu }=\overline{x}$, $\sigma$的极大似然估计为 ${\hat{\sigma }}^2=\frac{1}{n}\sum _{i=1}^n(x_i-\overline{x}{)}^2=s_n^2$.

4. 对泊松分布P($\lambda$), $\lambda$的最大似然估计为 $\hat{\lambda }$ = $\overline{x}$, 另外$\lambda$的矩估计也为 $\overline{x}$.

形成表格，如下表所示：

此表必须牢牢记住， 必须掌握！！！

三 看例题

例1 设$x_1,x_2,...,x_n$是来自正态总体N ($\mu ,{\sigma }^2$), 求标准差$\sigma$ 和 概率 P(X$⩾3$)的极大似然估计。

解 由上述表格可知 与 极大似然估计的不变性， $\sigma$ 的极大似然估计为 $\hat{\sigma }$ = $(\frac{1}{n}\sum _{i=1}^n(x_i-\overline{x}{)}^2{)}^{\frac{1}{2}}$ , 概率 P(X $⩽3$) 的极大似然估计为

P($\hat{X}\le 3$)=$\Phi (\frac{3-\mu }{\sigma })=\Phi (\frac{3-\overline{x}}{\hat{\sigma }})=\Phi (\frac{3-\overline{x}}{\sqrt{\frac{1}{n}\sum (x_i-\overline{x}{)}^2}})$

例2 2022.10真题

设某元件的使用寿命X ( 单位: 小时) 的概率密度为
$f(x)=$ $\{\begin{array}{ll}\frac{1}{\theta }{e}^{-\frac{x}{\theta }}& ，x>0\\ 0& ，x⩽0\end{array}$ , $\theta >0$,
X${}_1$, X${}_2$, … , X${}_n$ 为来自总体 X 的样本。 求: $\theta$ 的极大似然估计 $\hat{\theta }$.

解：当$x_1,x_2,...,x_n$ 都大于0时， 似然函数

L($\theta$) = $\prod _{i=1}^{n}f(x_i)=\prod _{i=1}^n\left(\frac{1}{\theta }{e}^{-\frac{x_i}{\theta }}\right)=\frac{1}{{\theta }^n}{e}^{-\frac{1}{\theta }\sum _{i=1}^n{x}_i}$,

两边取对数， lnL($\theta$) = -nln$\theta$-$\frac{1}{\theta }\sum _{i=1}^n{x}_i$ ,

求导，并且令等式=0， 有 $\frac{dlnL(\theta )}{d\theta }=-\frac{n}{\theta }+\frac{1}{{\theta }^2}\sum _{i=1}^n{x}_i=0$,

$\hat{\theta }=\frac{\sum _{i=1}^n{x}_i}{n}=\overline{x}.$

这个例题值得仔细分析， 仔细体会。

现在总结求极大似然估计 的步骤
第1步，列出L$(\theta )$ 等式， 此式在中途 包含了 $\prod$ 符号，

第2步 , 将 L($\theta$) 两边取对数，要利用对数性质 $ln(xy)=lnx+lny$,

第3步， 两边求导， 并令等式=0，

第4步， 解出$\theta$, 记住此时$\theta$加上 ^ 。

这四步必须牢牢记住， 必须掌握！！！