【机器学习数学基础之概率论01】贝叶斯公式

概率的三个公理

    1.事件A的概率是一个非负实数：P(A)≥0。

    2.合法命题（必然事件）的概率为1。

    3.对两两不相交（互斥）事件，有。

条件概率

    联合概率：P(A,B)=P(A|B)*P(B)

    条件概率：P(A|B)=P(A,B)/P(B)

        *给定任意B，若P(B)>0，则P(·|B)也是一个概率，即满足概率的三个概率公理：

           1.事件A在B的条件下的概率是一个非负实数：P(A|B)≥0。

           2.合法命题（必然事件）在B的条件下的概率为1。

           3.对两两不相交（互斥）事件，有。

贝叶斯公式

    乘法定理

            P(AB)=P(B|A)P(A)

    全概率公式

            令A1,...,Ak为A的一个划分（两两互斥且合为1），则对任意事件B，有  。直观理解为：在          所有可能情况下，B的概率等于它自身在这所有可能情况下发生的概率之和。

    贝叶斯公式

            令A1,...,Ak为A的一个划分，若对于每个K，若P(B)>0，则对每个P(Ak)>0，有 。        P(B|Ak)P(Ak)成为先验概率，P(Ak|B)成为后验概率。

            *推导：由条件概率可得：P(Ak|B)=P(AkB)/P(B)。则P(AkB)=P(B|Ak)P(Ak)，即为分子；，即      为分母。

            *简记：分子分母形式相同，分母为所有划分之和。

        

后续将给出条件概率的应用，未完待续......