朴素贝叶斯方法（二分类）[机器学习实战]

数据链接

垃圾短信分类

解析

设一个点(x,y)，对(x,y)进行分类(1,2)，我们可以设每个点分别属于两个类别的概率：

如果p1(x,y) > p2(x,y),那么类别为1
如果p1(x,y) < p2(x,y),那么类别为2

由贝叶斯概率我们有
\[p(c|x,y) = \frac {p(x,y|c)p(c)}{p(x,y)}\dots（1）\]
对于二分类可见
\[p1 \rightarrow p(1|x,y)\]
\[p2 \rightarrow p(2|x,y)\]

观察公式一右边.
根据大数定理，当数据集具有一定规模时，我们可以以频率逼近概率。
右边的概率可以由统计而得

因此朴素贝叶斯法则主要在于对数据的统计，步骤如下：

1. 分词，生成词向量空间（英文文本无需如此，中文文本可以使用jieba分词工具）
2. 对于每个向量，计算其向量空间坐标(每个特征词出现次数，即词袋)
3. 1)计算出p(c)，即每个类别