条件概率、贝叶斯公式理解

1、条件概率

条件概率是指事件A在事件B发生的条件下发生的概率，记作：P（A|B)。如下图所示：整个样本空间为Ω，事件A和事件B包含在Ω中。事件A和事件B同时发生的情况，即A、B交集记作AB。事件A的概率记作：P(A)=A/Ω，事件B的概率记作P(B)=B/Ω。AB交集部分的概率记作：P(AB)=AB/Ω。

由条件概率的定义可知，在B发生的条件下将样本空间限定在下图中B的空间内，则P(A|B) = AB/B。同理可得P(B|A) = AB/A。

图1

 由上图可得条件概率公式推导如下：

 2、联合概率

事件A和事件B同时发生的概率P(AB) = AB/Ω，也称作乘法公式。公式推导如下：

 2、全概率

如下图所示：事件Bi ∈ {B1、B2、B3、B4}相互独立，两两的交集为空。B1∪B2∪B3∪B4 = Ω。事件A在事件Bi中各占一部分。事件A与Bi同时发生记作ABi，同时发生的概率P(ABi) = ABi / Ω。

事件Bi发生条件下，事件A发生的概率P(A|Bi) = ABi / Bi。

图2

由上图推导全概率公式如下：

 2、贝叶斯公式

 图片见全概率，图 2。贝叶斯公式解决的问题是在事件A发生的条件下求Bi的概率。贝叶斯公式和全概率公式是一个相反的过程。全概率公式是已知原因集合Bi，求结果A的概率。贝叶斯公式是已知结果的集合在A中，反推事件原因Bi的概率。公式推导如下：