统计学习方法-李航-第四章-朴素贝叶斯

**

统计学习方法-李航-第四章-朴素贝叶斯

**
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入、输出的联合概率分布；然后基于此模型，对于给定的输入x，利用贝叶斯定理求出后验概率最大的输出y.

1 基本方法

朴素贝叶斯法实际上学习到生成数据的机制，所以属于生成模型。
（条件独立假设等于是说用于分类的特征再类确定的条件下都是条件独立的。这一假设使朴素贝叶斯变得简单，但有时会牺牲一定的分类准确率）

2 后验概率最大化的含义
朴素贝叶斯法将实例分到后验概率最大的类中=期望风险最小化

3 朴素贝叶斯法的参数估计----极大似然估计

4 朴素贝叶斯法的参数估计----学习与分类

5 朴素贝叶斯法的参数估计----贝叶斯估计

小结：