贝叶斯定理包含主要要素:
1,先验 2,后验 3,似然
数学定义:
注:A,B是事件,P(A|B)代表事件B在事件A已经发生之后时发生的概率,注(P(B|A)同理)。
其中,P(A|B) 统称为后验概率,P(B|A) 统称为似然,P(A) 统称为先验
贝叶斯推理:
统计推断是从数据中推导出关于总体或概率分布的属性的过程。从一组观察到的数据点,可以确定平均值的最大似然估计值。
贝叶斯推断只是使用贝叶斯定理从数据中推导出有关种群或概率分布的属性的过程。
实际贝叶斯模型:
注:
我们已经看到P(Θ)是先验分布。它代表了我们对参数真实价值的信念。
左侧的P( Θ|data)称为后验分布。这是在我们计算右侧的所有内容并将观察到的数据考虑在内之后表示我们对参数值 的信念的分布。
P(data|Θ )是我们之前讲到过的。如果你读过透彻理解最大似然估计,你会记得我们说L(data;μ,σ)是似然分布 (对于高斯分布)。P(data|Θ )可能性分布。有时候它写成( Θ; data),但这里也是一样的。
P(data) 有时被称为证据,就是我们所考虑的归一化常数。但是,有的时候我们不会考虑这个属性我们关心的是分布峰 值出现的位置。所以,有的时候就会忽略这个归一化常数,于是明确的真正后验分布并不等于右侧(少了个分母)
参考链接:https://baijiahao.baidu.com/s?id=1617897727880350069&wfr=spider&for=pc