概述:
贝叶斯估计:贝叶斯估计是把待估计的参数看作具有先验分布密度p()的随机变量,其取值与样本D有关,用训练样本D估计出最优的,记为。
贝叶斯学习 :把贝叶斯估计的原理用于直接从数据对概率密度函数进行迭代估计。
贝叶斯估计:
此处直接展示贝叶斯估计计算步骤:
Step1:根据对问题的认识或猜测确定0的先验分布密度p()
Step2:求出样本集合的概率分布:[分布密度p(x |)已知]
Step3:利用贝叶斯公式求0的后验分布密度:
Step4: 计算的贝叶斯估计量:
贝叶斯学习:
总结:
对于贝叶斯学习而言,它是一个递推贝叶斯估计过程,如果随着样本的增加后验概率序列逐渐尖锐,趋向于以0的真实值为中心的尖峰并收敛于真实值的脉冲,则称此过程为贝叶斯学习,样本的概率密度函数为: 。相比较参数估计方法中的贝叶斯估计而言,贝叶斯学习是一个在贝叶斯估计的基础上,研究不断增加样本数量,最终使得估计量趋近于实际参数的过程。