极大似然估计

① 频率学派

他们认为世界是确定的。他们直接为事件本身建模，也就是说事件在多次重复实验中趋于一个稳定的值p，那么这个值就是该事件的概率。

他们认为模型参数是个定值，希望通过类似解方程组的方式从数据中求得该未知数。这就是频率学派使用的参数估计方法-极大似然估计（MLE），这种方法往往在大数据量的情况下可以很好的还原模型的真实情况。

② 贝叶斯派

他们认为世界是不确定的，因获取的信息不同而异。假设对世界先有一个预先的估计，然后通过获取的信息来不断调整之前的预估计。 他们不试图对事件本身进行建模，而是从旁观者的角度来说。因此对于同一个事件，不同的人掌握的先验不同的话，那么他们所认为的事件状态也会不同。

• MLE对参数[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8K7oHW4u-1605757295579)(https://www.zhihu.com/equation?tex=%5Ctheta)]的估计方法可以如下：

• MAP对[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-w33Ieogc-1605757295583)(https://www.zhihu.com/equation?tex=%5Ctheta)]的估计方法可以如下推导：

**-**所以MAP和MLE在优化时的不同就是在于增加了一个先验项[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-WSnhyjyr-1605757295586)(https://www.zhihu.com/equation?tex=-+%5Clog+P%28%5Ctheta%29)]。

yr-1605757295586)]。

**-**通过以上的分析可以大致给出他们之间的联系： [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hhDmcuQL-1605757295587)(https://www.zhihu.com/equation?tex=MAP%28%5Ctheta%29%5Capprox+MLE%28%5Ctheta%29%2BP%28%5Ctheta%29)] 。