Maximum Likelihood Estimation :最大似然估计。
似然:事件(即观察数据)发生的可能性。
最大似然估计目标:找到一个估计值,使“事件发生的可能性”最大,也就是“使最大”。
一般来说,我们认为多次取样得到的x是独立同分布的,这样,最大似然估计就是利用已知的样本结果反推最有可能(最大概率)
导致这种结果的参数值(模型已知,参数未知)。
基本思想:
当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大,二不是像
最小二乘估计法旨在得到使得模型能最好地拟合样本数据的参数估计量。
似然函数:
对数似然函数:当样本为独立同分布时,似然函数可简写为L(α)=Πp(xi;α),不好计算,于是取对数,得到对数似然函数l(α)=ln L(α)=Σln