cmaes-极大似然估计

参考：https://blog.csdn.net/zengxiantao1994/article/details/72787849

极大似然估计

先举个例子：

极大似然估计就是：利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。

原理：极大似然估计是建立在极大似然原理的基础上的一个统计方法，是概率论在统计学中的应用。极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。通过若干次试验，观察其结果，利用试验结果得到某个参数值能够使样本出现的概率为最大，则称为极大似然估计。

样本集：

 

似然函数：

求未知数θ的最大似然问题，就是求似然函数的最值问题，是是的似然函数最大的值，即极大似然估计量

1. 未知参数只有一个（θ为标量）

        在似然函数满足连续、可微的正则条件下，极大似然估计量是下面微分方程的解：

                                    

 2.未知参数有多个（θ为向量）

        则θ可表示为具有S个分量的未知向量：

                                       

        记梯度算子：

                                       

若似然函数满足连续可导的条件，则最大似然估计量就是如下方程的解：

                             

注： 方程的解只是一个估计值，只有在样本数趋于无限多的时候，它才会接近于真实值。

 

注：本文只有笔记作用，若有侵权请联系本人删除