最大似然估计(Maximum Likelihood Estimation, MLE)是一种统计学方法,用于根据观测数据估计模型参数。简单来说,就是在给定数据下,寻找使得模型产生这些数据的概率最大的参数取值。
我们来看一个简单的例子:假设我们有一个硬币,想知道它正面朝上的概率p。为了得到这个概率,我们进行了10次抛硬币实验,结果如下:
H, T, H, H, T, H, H, T, H, H (H表示正面,T表示反面)
我们现在要使用最大似然估计方法来估计这个硬币正面朝上的概率p。
首先,我们需要定义似然函数L(p)。似然函数表示在参数p下,观测到这个数据序列的概率:
L(p) = P(H, T, H, H, T, H, H, T, H, H | p)
根据概率论,我们可以将上式展开为:
L(p) = P(H|p) * P(T|p) * P(H|p) * P(H|p) * P(T|p) * P(H|p) * P(H|p) * P(T|p) * P(H|p) * P(H|p)
因为正面的概率是p,反面的概率是1-p,所以:
L(p) = p * (1-p) * p * p * (1-p) * p * p * (1-p) * p * p
简化后:
L(p)