频率学派(Frequentists) 、贝叶斯学派(Bayesians)

• 数学与统计学最大的区别在于数学研究的是变量，而统计学研究的是随机变量
• 频率学派把未知参数看作普通变量（固定值），把样本看作随机变量；而贝叶斯学派把一切变量看作随机变量
• 贝叶斯论善于利用过去的知识和抽样数据，而频率论仅仅利用抽样数据。因此贝叶斯推论中前一次得到的后验概率分布可以作为后一次的先验概率
• 频率学派与贝叶斯学派的区别主要是是否允许先验概率分布的使用
• 贝叶斯派因为所有的参数都是随机变量，都有分布，因此可以使用一些基于采样的方法 （如MCMC）使得我们更容易构建复杂模型。频率派的优点则是没有假设一个先验分布，因此更加客观，也更加无偏，在一些保守的领域（比如制药业、法律）比 贝叶斯方法更受到信任
• 频率学派不假设任何的先验知识，不参照过去的经验，只按照当前已有的数据进行概率推断。而贝叶斯学派会假设先验知识的存在，然后再用采样逐渐修改先验知识并逼近真实知识。但实际上，在数据量趋近无穷时，频率学派和贝叶斯学派得到的结果是一样的，也就是说频率方法是贝叶斯方法的极限
• 频率学派还是贝叶斯学派？聊一聊机器学习中的MLE和MAP