极大似然估计的个人理解

    假设某批样本就服从某个分布。极大似然估计就是估计某个参数支持这个分布(既参数只有取这个值时，我们出现的分布最有可能是当前呈现的分布，如果参数不是这个值，那最有可能呈现的分布就是其他的分布)。这样对某个函数的参数的求值就转化为求似然函数最大时对应的的参数值。接下来是如何求似然函数最大时对应的参数值。如果这里的似然函数是个凸函数，就可以用凸函数的优化理论求值。当然也可以用梯度下降算法，牛顿法求解。

   为什么极大似然函数代表最有可能，因为似然函数的相反数就是损失函数，似然函数最大则损失函数就极小

例如：
箱子里有一定数量的小球，每次随机拿取一个小球，查看颜色以后放回，已知拿到白球的概率p为0.7或者0.3，拿了三次，都不是白球，想要求拿到白球的概率的极大似然估计。

分析：此处从数学上来讲，想要准确的求出拿到白球的概率是不可能的，所以此处求的是概率的极大似然估计。而这里的有放回的拿取，是高中数学中经典的独立重复事件，可以很简单的分别求出白球概率为0.7和0.3的时候拿三次都不是白球的概率。

解：
若拿到白球的概率为0.7，拿三次都不是白球的概率为：
P_0.7=0.30.30.3=0.027
若拿到白球的概率为0.3，拿三次都不是白球的概率为：
P_0.3=0.70.70.7=0.343

当参数为0.3时，似然函数值是0.343，当参数为0.3时，似然函数值是0.027
极大似然估计是0.343，对应的参数是0.3.既当参数是0.3时，三次都不是白球的概率最大
综上所述：
拿到白球的概率的极大似然估计为0.3