机器学习（六）：最大似然估计、参数估计

最大似然估计，通俗说，利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值

似然也是用于表征概率的，只不过这个概率是我们已经知道事件的结果，而去反推事件发生环境的参数的概率，我们认为事件是在最可能发生该事件的环境参数下发生的，有点绕

举个例子：抛硬币，假设我们随机抛掷一枚硬币1,000次，结果500次人头朝上，500次数字朝上，不管怎样，我们现在就是有着这么一个perfect结果，我们现在就很好奇，到底是什么导致了这么完美的结果，于是我们就要反推做这个实验时的涉及到的参数，我们认为所有的一切都不可能是巧合，只有各种条件都是满足的，才有可能发生这样完美的1/2的概率，此时1/2的概率是作为结果的，因为我们做实验得出了这样的结果啊。经过我们计算发现，一枚标准的硬币，使得发生了【两面朝上的概率均为50%】这个事件的可能性最大；但是，如果是不标准的硬币，随便抛，能不能得出正反面各50%的频率这个结果呢，想想这也是有可能的嘛；所以我们只能说，如果这个硬币是标准硬币，发生正反面各50%的概率是最大的，因为这样子搞可以最大可能的出现我们期待的结果。我们运用出现的结果来判断这个事情本身的性质（参数），就是似然。 似然描述的是结果已知的情况下，该事件在不同条件下发生的可能性，似然函数的值越大说明该事件在对应的条件下发生的可能性越大。

再来个例子：有两个妈妈带着一个小孩到了你的面前，妈妈A和小孩长得很像，妈妈B和小孩一点都不像，问你谁是孩子的妈妈，你说是妈妈A。好的，那这种时候你所采取的方式就是极大似然估计：妈妈A和小孩长得像，所以妈妈A是小孩的妈妈的概率大，这样妈妈A看来就是小孩的妈妈，妈妈A就是小孩的妈妈。

极大似然估计就是在只有概率的情况下，忽略低概率事件直接将高概率事件认为是真实事件的思想。

结果和参数相互对应的时候，似然和概率在数值上是相等的，如果用 θ 表示环