机器学习中,常需要用训练集训练模型,概率模型的训练过程就是参数估计过程。
对于参数估计,统计学界的两个学派分别提供了不同的解决方法。
频率主义学派(Frequentist)认为参数虽然未知,但却是客观存在的固定值,
因此,可通过优化似然函数等准则来确定参数值;
贝叶斯学派(Bayesian)则认为参数是未观察到的随机变量,其本身也可由分布,
因此,可假定参数服从一个先验分布,然后基于观测到的数据来计算参数的后验分布。
资料来源:周志华.机器学习[D].清华大学出版社.2016.149.