朴素贝叶斯模型(Naive Bayes Model，NB)理解

1. Bayes 定理

• P(A,B)=P(A|B)P(B);              
• P(A,B)=P(B|A)P(A);　　
• P(A|B)=P(B|A)P(A)/P(B);    贝叶斯定理变形

2. 概率图模型

2.1 定义

概率图模型是一类用图的形式表示随机变量之间条件依赖关系的概率模型，是概率论与图论的结合。

图中的节点表示随机变量，边表示随机变量之间的概率依赖关系.缺少边的节点表示满足条件独立假设。

2.2 随机变量的条件独立

如果有P(A,B|C)=P(A|C)P(B|C),  则称在给定事件C的条件下，两个事件A和B独立，这里假设P(C)>0;

如：设A=2x+z;　　B=y+z;　　C=z;

在C确定的条件下 A,B是独立的。如假设z=0(常数)，则A和B没有任何关联。

　　等价形式P(A|B,C)=P(A|C)　

　推导：　P(A,B|C)=P(A|C)P(B|C);       ...1
　　　　　P(A,B|C)=P(A|B,C)P(B|C);　　  ...2

　　联合1,2式可以=> P(A|C)=P(A|B,C)

2.3概率图模型的有向图表示

利用有向图来表示变量之间的概率依赖关系,典型应用就是贝叶斯网络.

上图Naive Bayes 可以表示为： p(y,x1,x2,x3)=p(y).p(x1|y)p(x2|y)p(x3|y)

3. Naive Bayes Model

3.1 Bayes 决策理论思想

朴素贝叶斯是贝叶斯决策理论的一部分， 所以讲述朴素贝叶斯之前有必要快速了解一下贝叶斯决策理论。

　　假设我们有一个数据集，如下图所示：

　

我们用P(c1|x,y) 表示数据点(x,y)属于类别c1的概率(图中红色圆点的概率)，用P(c2|x,y)表示数据点(x,y)属于类别c2的概率(图中绿色的三角形概率)。那么对于一个新的数据点(x,y),我们就可以用一下规则来判断它的类别。

• If p(c1|x, y) > p(c2|x, y), then the class is c1.
• If p(c2|x, y) > p(c1|x, y), then the class is c2.

也就是说，我们会选择高概率对应的类别。这就是贝叶斯决策理论的核心思想， 即选择具有最高概率的决策。

3.2 Naive Bayes 公式推导

假设某个体有n项特征（Feature），分别为F₁、F₂、...、F_n。现有m个类别（Category），分别为C₁、C₂、...、C_m。

贝叶斯分类器就是计算出概率最大的那　　个　分类，也就是求下面这个算式的最大值：P(C|F1，F2，...，Fn);  

　　可以理解为求 在属性F1,F2,....Fn条件下，属于各个类别Ci的概率，然后求出最大的那个P(Ci|F1,F2,...Fn) ，这样就得到F1,F2,...Fn 属于哪一类(Ci)了。

　　使用贝叶斯原理可以写成