大学毕业后,一直对极大似然估计懵懵懂懂,终于借助这次对机器学习算法梳理搞清楚了,今天给大家做个分享。
极大似然估计方法(Maximum Likelihood Estimate,MLE),是求估计的另一种方法,最大概似是1821年首先由德国数学家高斯(C. F. Gauss)提出,但是这个方法通常被归功于英国的统计学家罗纳德·费希尔(R. A. Fisher)。
极大似然估计引例
- 1、一位老猎人和一个学徒出去打猎,途中遇见一只野兔,只听见一声枪响,野兔应声倒地。请问是谁打中了野兔?
- 2、黑屋里有两个箱子,一个箱子有90个白球,10个黑球,另一个箱子有90个黑球,10个白球,从两个箱子中抽出一个白球。请问是从哪个箱子抽出来的?
从经验来判断:一枪打中野兔的大概率是老猎人;抽出的白球大概率来着第一个箱子。概率最大的事情就应该是最可能发生的,这就是极大似然估思想。
极大似然估计步骤
求极大似然函数估计值的一般步骤如下:
1) 写出似然函数;
2) 对似然函数取对数,并整理;
- 因为L 与 lnL 具有相同的极大值点,而lnL求导更加便利,因此对L取对数。
3) 求导数 ,获取似然方程,求解;