贝叶斯公式: P ( A ∣ B ) = P ( B ∣ A ) P ( A ) P ( B ) P(A | B) = \frac{P(B | A)P(A)}{P(B)} P(A∣B)=P(B)P(B∣A)P(A)
贝叶斯描述的问题
假设,A事件为“下雨”,B事件为“涨水”,那么:
- “下雨时涨水”可描述为:A条件下B的概率,即P( B | A)
- “涨水时下雨”可描述为:B条件下A的概率,即P( A | B)
根据生活常识可以知道,“下雨时涨水”是经常的事情,概率也很好得到,但是“涨水时下雨”的情况可就太多了,不太好估计。
因此,贝叶斯公式就是用于描述这两者之间的关系的。
(我们可以由“下雨时涨水”的概率,推算出“涨水时下雨”的概率)
贝叶斯公式的推导
条件概率公式
条件概率公式: P ( A ∣ B ) = P ( A B ) P ( B ) P(A | B) = \frac{P(AB)}{P(B)} P(A∣B)=P(B)P(AB)
公式表示的意义:
将 P ( B ) P(B) P(B)移到公式左边可以得到 P ( A B ) = P ( B ) P ( A ∣ B ) P(AB)=P(B)P(A|B) P(AB)=P(B)P(A∣B),其中:
- P ( B ) P(B) P(B)表示B发生了
- P ( A ∣ B ) P(A|B) P(A∣B)表示在B发生的情况下A发生的概率
因此, P ( B ) P ( A ∣ B ) P(B)P(A|B) P(B)P(A∣B)表示AB都发生的概率,即 P ( A B ) P(AB) P(AB)。
贝叶斯公式
P ( A B ) = P ( B ) P ( A ∣ B ) = P ( A ) P ( B ∣ A ) P(AB) = P(B)P(A|B) = P(A)P(B|A) P(AB)=P(B)P(A∣B)=P(A)P(B∣A)
将 P ( A ∣ B ) = P ( A B ) P ( B ) P(A | B) = \frac{P(AB)}{P(B)} P(A∣B)=P(B)P(AB)中的 P ( A B ) P(AB) P(AB)替换成 P ( A ) P ( B ∣ A ) P(A)P(B|A) P(A)P(B∣A),就可以得到贝叶斯公式: P ( A ∣ B ) = P ( B ∣ A ) P ( A ) P ( B ) P(A | B) = \frac{P(B | A)P(A)}{P(B)} P(A∣B)=P(B)P(B∣A)P(A)
结合条件概率意义,可以理解贝叶斯公式为:
P ( B ) P ( A ∣ B ) = P ( A ) P ( B ∣ A ) P(B)P(A|B) = P(A)P(B|A) P(B)P(A∣B)=P(A)P(B∣A),都是联合概率 P ( A B ) P(AB) P(AB)。