统计学习方法笔记（二）朴素贝叶斯法

  朴素贝叶斯（Naïve Bayes）法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入、输出的联合概率分布；然后基于此模块，对给定的输入x，利用贝叶斯定理求出求出后验概率最大输出y。

1.1朴素贝叶斯法的学习与分类

1.1.1基本方法

  设输入空间 $\chi \subseteq R^n$为n维向量的集合，输出空间为类标记集合 $\mathcal{Y}$={c₁,c₂,…,c_K} 。输入为特征向量$x\in \mathcal{X}$，输出为类标记（class label）$y\in \mathcal{Y}$。X 是定义在特征空间$\mathcal{X}$上的随机向量，Y是定义在输出空间$\mathcal{Y}$上的随机变量。P(X,Y)是X和Y的联合概率分布。训练数据集T=