1 什么是贝叶斯思想?
贝叶斯方法在最近得到非常广泛的应用,是计算统计领域不可或缺的重要部分。其在研究一个问题时的大致框架是,在得到数据之前人们就对感兴趣的参数有个主观信念, 或者说认为服从某个先验分布(Prior Distribution)。这个是和经典统计频率派最大的不同之处。在观察到数据后,通过计算后验分布来更新对这个参数的信念。 然后在总结后验概率分布的基础上进行统计推断。
2 贝叶斯定理与逆概率
首先贝叶斯定理告诉我们:
贝叶方法就是要通过观察数据去估计模型的参数及其对应的后验概率:
直观的表述就是:后验概率=先验概率×似然
所以说贝叶斯的思想是当我看到了某个数据,问的问题是导致我看到这样的数据的概率(后验概率)是多少?因为可以有不同的参数, 可以导致我看到这个的数据,不同的参数给出的后验概率不同。