最大似然估到底怎么来的-Note

离散最大似然估计：

用样本概率去估计总体分布概率，不一定具有准确性。

假设有一个箱子里有两种小球，

取出的概率分别为θ和1-θ

在一堆小球中抽出了3个1号球和2个2号球。

其中对于每一组数据的概率：

因为之前随机取出的一组数据的分布就是这个分布，则很可能出现一种情况：

相比于该所有样本的分布来说，

我随机拿出的这一组数据很可能就是这所有样本分布的最基础的分布，也就是说我随便取出来的数据分布很可能就是所有样本的整体分布情况，举个例子：

 该随机取出的样本数据的分布很有可能就是真实的分布情况，

最大似然估计即认为取出这种分布的概率是最大的，

因为我随便一取就是这个分布，所以这种分布情况可能是出现概率最大的

【所以最大似然估计可能不准确】

即求该分布出现概率L(θ) 最大时的θ的值。

直接求导不好求，先取对数：

 

求导取0点：

所以最大似然估计分布中θ可能为3/5；

 连续最大似然估计：

若已知概率分布函数f(xi),则可计算出最大似然函数：若x~μ(0,a),a未知。

 若出现求导无法求解最值

 

 则要满足概率最大,且该似然函数单调递减，a越大概率掉的越慢 ，必须取最大值的x，因此：