机器学习基础：朴素贝叶斯

目录

1. 贝叶斯

2. 朴素贝叶斯分类器

2.1 样本T的组成

2.2 《朴素》贝叶斯

2.3 概率平滑——代替0

2.4 缺失值

2.5 朴素贝叶斯总结

---

1. 贝叶斯

贝叶斯公式：

这里的可以认为是在分类任务中的某个类，所以可以表示在给出的条件下，样本被判为第类的概率，这个概率也是我们称为的后验概率。

---

贝叶斯公式的实例：

当你周一去一家商店，你发现所有的灯都是的，你会做什么推断？

先验概率：

即，通过统计数据，这家店开着的概率是。

先验概率和后验概率可以这么理解：

和相比，一个是预先知道的，所以是先验的；一个是需要在的条件下算出来的，所以是后验的。

条件概率：

，当店铺开张的时候，灯灭的概率为。

，当店铺关闭的时候，灯灭的概率为。

求后验概率

贝叶斯公式允许我们计算当已知或者可以估算的时候。

2. 朴素贝叶斯分类器

已知，对于联合概率有：

分类器的任务

我们现在的任务是：将样本（）进行分类，，我们需要依次求出这个样本对于每一类的概率，然后选出其中最大的那一个作为最终的预测类别。