随笔记--贝叶斯学派与频率学派

1、差别：

两者之间最大的差别：在对物理世界建模时，使用参数的认知不同。

频率学派将模型参数看着是固定的，贝叶斯学派把参数也看着是随机变量，也符合某种分布，这是两者的根本区别。

1）频率学派：模型的参数是固定的，真实而客观存在的。

实现方法是使用最大似然（maximum likelihood）以及置信区间（confidence interval），找出这个参数的真实值。

频率派的优点，是没有假设一个先验分布，因此更加客观，也更加无偏，在一些保守的领域（比如制药业、法律）比贝叶斯方法更受到信任。

2）贝叶斯学派：关心的是参数的每一个取值的可能性，即参数的概率分布，而不是参数的所谓“真实值”。贝叶斯学派所有的参数都是随机变量，都有分布，即将参数也看作是随机变量，每个值都有可能是真实模型使用的值，区别只是概率不同而已。

贝叶斯学派的想法其实更为自然，这也是为什么贝叶斯学派的产生远早于频率学派。贝叶斯派认为参数不确定。有时候，这种不确定性是物体的固有属性，是独立于主观因素的客观存在。比如硬币或骰子，它的物理偏向性如何？某一面出现的概率是多少？是否“公平”？这些都是在物体的制造过程中决定了的，原则上可用频率派多次实验的方法来探索它的概率。但在某些情形，“不确定性”的客观意义并不显而易见。

总之，两大学派从不同角度来看待物理参数：频率学派认为参数值是固定的，使用多次测量来逼近这个固定值。贝叶斯学派从固定的样本区间，考虑参数所有可能值，用实验结果来更新参数取值的概率。

2、什么是最大似然估计

最大似然估计是一种估算参数的方法。

在数理统计学中，经常使用似然函数来描述统计模型中的参数，由此函数的最优化来估算参数的方法叫做“最大似然估计”。

3、什么是似然函数？

“似然性”一词与“概率”一词意义相近，都是指某种事件发生的可能性。

似然函数与之前介绍过的概率分布函数有关，他们的函数形式有可能相同，但在统计学中，两者在概念上有着明确的区分：

概率分布函数是随机变量的函数，参数固定；

似然函数是参数的函数，随参数之变化而变化。