朴素贝叶斯分类器_机器学习——朴素贝叶斯分类器

贝叶斯定理：

先验概率：是指根据以往经验和分析得到的概率

例：如果我们对西瓜的色泽、根蒂和纹理等特征一无所知，按照常理来说，西瓜是好瓜的概率是60%。那么这个概率P(好瓜)就被称为先验概率

后验概率：事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小

例：假如我们了解到判断西瓜是否好瓜的一个指标是纹理。一般来说，纹理清晰的西瓜是好瓜的概率大一些，大概是75%。如果把纹理清晰当作一种结果，然后去推测好瓜的概率，那么这个概率P(好瓜|纹理清晰)就被称为后验概率。后验概率类似于条件概率

联合概率：包含多个条件且所有条件同时成立的概率，记作  P(X=i,Y=j)，或记作 P(i,j)

例：在买西瓜的案例中，P(好瓜，纹理清晰)称为联合分布，它表示纹理清晰且是好瓜的概率，计算方法如下：

全概率：如果事件组B1,B2......满足：

例：上面联合概率概念买西瓜的例子中，我们要计算P(好瓜，纹理清晰)联合概率时，需要知道P(纹理清晰)的概率。那么，如何计算纹理清晰的概率呢？实际上可以分为两种情况：一种是好瓜状态下纹理清晰的概率，另一类是坏瓜状态下纹理清晰的概率。纹理清晰的概率就是这两种情况之和。因此，我们可以推导出全概率公式：