最大似然估计
今天我来给大家简单介绍一下最大似然估计。
首先在我们介绍最大似然估计之前先来看一看和它相关的似然函数。
其定义如下:
在统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上)等于给定参数θ后变量X的概率:L(θ|x)=P(X=x|θ)。
似然函数在推断统计学(Statistical inference)中扮演重要角色,尤其是在参数估计方法中。在教科书中,似然常常被用作“概率”的同义词。但是在统计学中,二者有截然不同的用法。概率描述了已知参数时的随机变量的输出结果;似然则用来描述已知随机变量输出结果时,未知参数的可能取值。例如,对于“一枚正反对称的硬币上抛十次”这种事件,我们可以问硬币落地时十次都是正面向上的“概率”是多少;而对于“一枚硬币向上抛十次”,我们则可以问,这枚硬币正反面对称的“似然”程度是多少。并且在统计学中:
1.概率描述的是:指定参数后,预测即将发生事件的可能性;
2.似然描述的是:在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计;
从上面的描述可以看出似然和概率正好的两个相反的过程。一种方便区别是概率还是似然的方法是,根据定义,"谁谁谁的概率"中谁谁谁只能是概率空间中的事件,换句话说,我们只能说,事件(发生)的概率是多少多少(因为事件具有概率结构从而刻画随机性