朴素贝叶斯分类实验（垃圾邮件分类以及垃圾短信过滤数据集）

贝叶斯公式

先验概率

$P(c_j)$代表未有训练模型之前，根据历史数据/经验估算$c_j$拥有的初始概率。$P(c_j)$常称为$c_j$的先验概率（prior probability）,它反映了$c_j$的概率分布，该分布独立于样本。
公式如下所示：
$P(c_j)=\frac{|c_j|}{|D|}$
$|c_j|$表示样例中属于$c_j$的样例数，|D|表示总样例数。

后验概率

在给定数据样本x时$c_j$成立的概率$P(c_j|x)$称为后验概率（posterior probability），因为它反映了看到数据样本x后$c_j$成立的置信度。后验概率是观测到x后对结果y的估计，大部分机器学习模型尝试得到后验概率。

贝叶斯定理

已知两个独立事件A和B，事件B发生的前提下，事件A发生的概率可以表示为$P(A|B)$,求解$P(A|B)$的公式如下所示：

$P(A|B)=\frac{P(A,B)}{P(B)}$

=>$P(A,B)=P(B)\ast P(A|B)=P(A)\ast P(B|A)$

=> P ( A ∣ B ) = P ( A