【朴素贝叶斯】Part1——朴素贝叶斯基本原理

1. 概率论基本知识回顾

• （1）条件概率：设A，B是两个事件，且P(A)>0，称 $P(B|A)=\frac{P(AB)}{P(A)}$ 为在事件A发生的条件下事件B发生的概率。

• （2）乘法定理：设P(A)>0，称 $P(AB)=P(B|A)P(A)$ 为事件A，B同时发生的概率等于事件A发生的概率与事件A发生的条件下事件B发生的概率的乘积。

• （3）全概率公式：设B1，B2，…，Bn是样本空间S的一个全划分，则：
  $$\begin{gathered} P(A)=P(A\cap S) \\ =P(A\cap (B1\cup B2\cup ...\cup Bn)) \\ =P(A\cap B1)+P(A\cap B2)+...+P(A\cap Bn) \\ =P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn) \end{gathered}$$

• （4）贝叶斯定理：根据条件概率的定义，事件 A 发生的条件下事件 B 发生的概率、事件 B 发生的条件下事件 A 发生的概率分别为：
  $P(B|A)=\frac{P(AB)}{P(A)}$

  $P(A|B)=\frac{P(AB)}{P(B)}$

  结合这两个方程式，我们可以得到：
  $P(B|A)P(A)=P(AB)=P(A|B)P(B)$

  上式两边同除以 P(B)，若P(B)>0，我们可以得到贝叶斯定理：
  $P(A|B)=\frac{P(B|A)}{P(B)}$