极大似然估计(MLE)、最大后验估计(MAE)

一、简述

1、极大似然估计（Maximum likelihood estimation, MLE）

极大似然估计（Maximum likelihood estimation, 简称MLE）也称最大似然估计。是一种概率论在统计学的应用，它是参数估计的方法之一。说的是已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，参数估计就是通过若干次试验，观察其结果，利用结果推出参数的大概值。极大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。

2、最大后验概率估计（Maximum a posteriori estimation, MAP）

最大后验概率估计（Maximum a posteriori estimation, 简称MAP）。在贝叶斯统计学中，“最大后验概率估计”是后验概率分布的众数。利用最大后验概率估计可以获得对实验数据中无法直接观察到的量的点估计。它与最大似然估计中的经典方法有密切关系，但是它使用了一个增广的优化目标，进一步考虑了被估计量的先验概率分布。所以最大后验概率估计可以看作是规则化（regularization）的最大似然估计。

---

---

---

参考资料：
机器学习中的极大似然估计(MLE)、最大后验估计(MAE)