MLE极大似然估计

极大似然估计（MLE）：

极大似然估计是一种参数估计的方法，即已知样本估计出模型参数。

极大似然估计是频率学派的一种方法（与贝叶斯学派的极大后验估计对应），频率学派认为模型的参数是确定的，只是不知道而已，所以可以通过样本推断出模型参数。

既然是极大“似然”估计，就要先明白什么是“似然”，在贝叶斯公式中有：

其中，是模型参数的后验概率密度函数，是模型参数的先验概率密度函数，这些都是频率学派所不关心的，所以MLE中只关心，也就是似然函数。

可以看出似然函数就是假设已知参数的情况下得到观察样本的概率，而MLE的初衷就是选择值，使得当前观察到的样本是该模型产生的数据这一概率最大！

似然函数的定义为：