贝叶斯定理由
英国数学家贝叶斯 ( Thomas Bayes 1702-1763 ) 发展,用来描述两个条件
概率之间的关系,比如 P(A|B) 和 P(B|A)。按照
乘法法则:
P(A∩B)=P(A)*P(B|A)=P(B)*P(A|B),可以立刻导出
如上公式也可
变形为:
P(B|A)=P(A|B)*P(B)/P(A)
例如:一座别墅在过去的 20 年里一共发生过 2 次被盗,别墅的主人有一条狗,狗平均每周晚上叫 3 次,在盗贼入侵时狗叫的概率被估计为 0.9,问题是:在狗叫的时候发生入侵的
概率是多少?
我们假设 A
事件为狗在晚上叫,B 为盗贼入侵,则 P(A) = 3 / 7,P(B)=2/(20·365)=2/7300,P(A | B) = 0.9,按照公式很容易得出结果:P(B|A)=0.9*(2/7300)/(3/7)=0.00058
另一个例子,现分别有 A,B 两个容器,在容器 A 里分别有 7 个红球和 3 个
白球,在容器 B 里有 1 个红球和 9 个白球,现已知从这两个容器里任意抽出了一个球,且是红球,问这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B,从容器 A 里抽出球为事件 A,则有:P(B) = 8 / 20,P(A) = 1 / 2,P(B | A) = 7 / 10,按照公式,则有:P(A|B)=(7 / 10)*(1 / 2)/(8/20)=0.875
贝叶斯公式为利用搜集到的信息对原有判断进行修正提供了有效手段。在采样之前,经济主体对各种假设有一个判断(
先验概率),关于先验概率的分布,通常可根据经济主体的经验判断确定(当无任何信息时,一般假设各先验概率相同),较复杂精确的可利用包括最大熵技术或边际分布密度以及相互信息原理等方法来确定先验
概率分布。
贝叶斯定理的推广
对于变量有二个以上的情况,贝式定理亦成立。例如:
P(A|B,C)=P(B|A)*P(A)*P(C|A,B)/(P(B)*P(C|B))
这个式子可以由套用多次二个变量的贝式定理及条件机率的定义导出:
2贝叶斯法则的原理
通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A的条件下的概率是不一样的;然而,这两者是有确定的关系,贝叶斯法则就是这种关系的陈述。
作为一个规范的原理,
贝叶斯法则对于所有概率的解释是有效的;然而,频率主义者和贝叶斯主义者对于在应用中概率如何被
赋值有着不同的看法:频率主义者根据
随机事件发生的频率,或者总体
样本里面的个数来赋值概率;贝叶斯主义者要根据未知的命题来赋值概率。一个结果就是,贝叶斯主义者有更多的机会使用
贝叶斯法则。
其中L(A|B)是在B发生的情况下A发生的可能性。
在
贝叶斯法则中,每个名词都有约定俗成的名称:
Pr(A)是A的
先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。
Pr(B|A)是已知A发生后B的条件概率,也由于得自A的取值而被称作B的
后验概率。
Pr(B)是B的先验概率或边缘概率,也作标准化常量(normalized constant)。
按这些术语,Bayes法则可表述为:
后验概率 = (似然度 * 先验概率)/标准化常量 也就是说,后验概率与先验概率和似然度的乘积成正比。
另外,比例Pr(A)/Pr(B)也有时被称作标准似然度(standardised likelihood),Bayes法则可表述为:
后验概率 = 标准似然度 * 先验概率