初探NO.3—从头到尾聊聊贝叶斯的分类方法

  宅在家无聊之余决定看着《概率论和数理统计》&《统计学习方法》总结一下朴素贝叶斯和贝叶斯估计。

 

  正好这一块我最近温习了一下，我从一开始条件概率开始写，把我所理解的贝叶斯分类算法完整呈现一下吧。

 

  学的概率论最开始是在高中，当时是条件概率，给出条件概率的定义：事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为P（A|B），读作“在B条件下A的概率”。

 

  其次我们有必要温习一下乘法定理，乘法定理的定义：设P(A)>0，则有P(AB)=P(B|A)P(A)。

 

  说完这些最基础的之后，就开始接触全概率和贝叶斯公式了。

 

  全概率公式为：如果事件B1、B2、B3…Bn 构成一个完备事件组，即它们两两互不相容，其和为全集；并且P（Bi)大于0，则对任一事件A用下图表示：

                                                                 

  百度说全概率公式为概率论中的重要公式，它将对一复杂事件A的概率求解问题转化为了在不同情况下发生的简单事件的概率的求和问题。

 

  下面是最重要的贝叶斯公式了，贝叶斯公式定义：设实验E的样本空间为S，A为E的事件，B1,B2,B3.....Bn为S的一个划分，切事件的概率都大于0，于是贝叶斯公式表示如图：