朴素贝叶斯(Naïve Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入、输出的联合概率分布;然后基于此模块,对给定的输入x,利用贝叶斯定理求出求出后验概率最大输出y。
1.1朴素贝叶斯法的学习与分类
1.1.1基本方法
设输入空间 χ ⊆ R n χ\subseteq R^n χ⊆Rn为n维向量的集合,输出空间为类标记集合 Y \mathcal Y Y={c1,c2,…,cK} 。输入为特征向量 x ∈ X x\in\mathcal X x∈X,输出为类标记(class label) y ∈ Y y\in\mathcal Y y∈Y。X 是定义在特征空间 X \mathcal X X上的随机向量,Y是定义在输出空间 Y \mathcal Y Y上的随机变量。P(X,Y)是X和Y的联合概率分布。训练数据集T=