贝叶斯定理
先验概率:P(H),表示事件H发生的概率。
后验概率:P(H|X),表示在已知条件X发生的情况下,事件H发生的概率。
贝叶斯定理提供了一种P(H|X)和P(X|H)的转换方式:
朴素贝叶斯分类
基本假设:朴素贝叶斯分类方法假定一个属性值在给定类上的影响独立于其他属性的值。这一假定称为类条件独立性。
分类过程:
- 设D是训练元组和它们相关联的类标号的集合。通常,每个元组用一个n维属性向量X={x1,x2,···,xn}表示,描述由n个属性A1,A1,···,An对元组的n个测量。
- 假定有m个类C1,C2,···,Cm。给定元组X,分类法将预测X属于具有最高后验概率的类(在条件X下)。也就是说,朴素贝叶斯分类法预测X属于类Ci,当且仅当
- 由于P(X)对