最大似然估计的求解步骤（详细解释，通俗易懂）

梦云澜

已于 2025-01-31 01:43:29 修改

阅读量8.1k

点赞数 72

分类专栏：数学与概率文章标签：概率论

于 2024-06-05 20:22:59 首次发布

本文链接：https://blog.csdn.net/qq_64411728/article/details/139477965

版权

数学与概率专栏收录该内容

7 篇文章

订阅专栏

关于最大似然估计的定义我已经分享过啦，小伙伴们可以通过下面的链接看看

什么是最大似然估计？

1.求解步骤

今天我们来说一下它的求解步骤（这里的求解过程是以离散型随机变量为例，连续型随机变量同理）。

在上文中我们知道，离散型随机变量的似然函数为

$L(\theta )=p(x_{1},x_{2},\cdot \cdot \cdot ,x_{n};\theta )=\prod ^{n}_{i=1}P(X_{i}=x_{i};\theta )$

哦豁，单单看这个似然函数，后面是个连续乘积的形式，要求最大值的话那处理起来多麻烦，那我们肯定要想个办法呀，哎嘿，这里我们可以两边取自然对数，变成下面的形式

$\ln L(\theta )=\ln p(x_{1},x_{2},\cdot \cdot \cdot ,x_{n};\theta )=\sum ^{n}_{i=1}P(X_{i}=x_{i};\theta )$

你看，取完对数后，连乘变成了求和，这里有没有小伙伴们有疑问，那取完对数后求出来的最大值能和原来的一样嘛？这个其实是可以的啦，因为 $\ln x$ 是 $x$ 的单调上升函数，因此它俩有相同的最大值嘞~

那取完对数只是第一步处理，第二步我们就可以开始求函数的最大值了，这个大家可以思考一下，求函数的极值？这好像高中就会吧？我们是不是求导就可以嘞？只不过我们这里面的未知参数可能不止一个，要对每一个未知参数求导，也就是所谓的求偏导，如下所示：

$\frac{\partial \ln L(\theta) }{\partial \theta _{i}}=0$ ， $i=1,\cdot \cdot \cdot ,n$

这里 $\theta _{i}$ 就是每一个未知参数哦，令这个方程等于0，然后就能求极值了呗，这用高中的知识就能写哦，不难的。

通过这个就能求得似然函数的最大值点，怎么样，其实挺简单的叭~

2.方法应用

例1. 设 $X_{1},X_{2},\cdot \cdot \cdot ,X_{n}$ 独立同分布，都服从泊松分布 $P(\lambda )$ ，给定 $X_{1},X_{2},\cdot \cdot \cdot ,X_{n}$ 的观测值 $x_{1},x_{2},\cdot \cdot \cdot ,x_{n}$ ，计算 $\lambda$ 的最大似然估计。

解： $\lambda$ 的似然函数为

$L(\lambda )=P(X_{1}=x_{1},X_{2}=x_{2},\cdot \cdot \cdot ,X_{n}=x_{n})$

$=\frac{\lambda ^{x_{1}}}{x_{1}!}e^{-\lambda }\frac{\lambda ^{x_{2}}}{x_{2}!}e^{-\lambda }\cdot \cdot \cdot \frac{\lambda ^{x_{n}}}{x_{n}!}e^{-\lambda }$