最大似然估计(概率密度函数的估计的参数方法)

最大似然估计 

    有以下几个假设:  确定但未知

                                           样本  独立同分布

                                          类条件概率密度  有确定的函数形式

                                                                       

                                                                   或 

样本  中的各个样本的联合概率为

                   

上式反映在不同参数取值下取得当前样本集的可能性

参数  叫相对于样本集 x 的似然函数 

使似然函数最大的  是样本 x 的函数 ,记作  ,全称为最大似然估计量

最大似然估计要干嘛呢?找  ! 也就是说抽取一组的样本在密度函数( 取什么值)的可能性最大。

注:arg max 表示后面的函数取得最大值的变量的取值,比如 

为了方便求解,取对数似然函数

             

然后就是若  为标量,那么求微分;若为向量,则求梯度。公式不赘述(其实是我懒得打。。。)

令上句的式子等于零求得的解就是似然函数的极值点。

注:若随机变量 x 为一维的时候要根据似然函数的定义来,令分母最小的时候就能取得最大值。



                                                                                                                                         

                                                                 

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页