通过朴素贝叶斯算法来分类垃圾邮件的PYTHON实现(超易懂)
文章目录
前言
本文的目的是让没有基础的小白也能懂如何通过朴素贝叶斯算法来对垃圾邮件进行分类,讲得不到位的还请各位指正
文章会先讲解贝叶斯算法分类垃圾邮件的原理,之后会给出python实现代码
提示:以下是本篇文章正文内容,下面案例可供参考
一、朴素贝叶斯算法分类垃圾邮件原理
朴素贝叶斯算法是这么描述的:
用贝叶斯定理来预测一个未知类别的样本属于各个类别的可能性,选择可能性最大的一个类别作为该样本的最终类别
这个算法对应到垃圾邮件分类这个实例就可以这么描述:
用贝叶斯定理来预测一封由若干个单词组成的不知道是否为垃圾邮件的邮件,它是垃圾邮件或是正常邮件的可能性,如果算法预测出垃圾邮件的可能性更高,那这封邮件就是垃圾邮件,反之为正常邮件
上面的内容其实就是本文要做的全部事情,如果各位看懂了的话就已经成功了一半。
贝叶斯定理的公式:
P ( H ∣ X ) = P ( X ∣ H ) P ( H ) P ( X ) (1) P(H|X)=\frac{P(X|H)P(H)}{P(X)}\tag{1} P(H∣X)=P(X)P(X∣H)P(H)(1)
其中P(H)表示假设H的先验概率
P(X)表示数据X的先验概率
P(H|X)表示在条件X下,假设H的后验概率
P(X|H)表示在假设H的前提下,样本X的后验概率
不要管先验、后验概率这些有的没的,毕竟这篇文章的目的是让大家都能看懂,你只要看公式(1)就好了, P ( X ∣ H ) P ( H ) P ( X ) \frac{P(X|H)P(H)}{P(X)} P(X)P(X∣H)P(H)中的三项后面都会直接给公式。
简单来说,这个公式是用来求条件概率的,如 P ( H ∣ X ) P(H|X) P(H∣X),这个的意思就是求在事件 X X X发生的前提下,事件 H H H发生的概率。结合垃圾邮件分类你可以这么写
P ( 该 邮 件 是 垃 圾 邮 件 ∣ 该 邮 件 中 所 有 的 词 同 时 存 在 ) P(该邮件是垃圾邮件|该邮件中所有的词同时存在) P(该邮件是垃圾邮件∣该邮件中所有的词同时存在)
这个语句的意思就是,由某些词同时出现构成了一封邮件,这封邮件是垃圾邮件的概率就为上面的那个语句。
我们忽略一封邮件的各种标点符号和数字,那么一封邮件可以用这么一个逻辑表达式来进行表述
m a i l = w o r d 1 ∪ w o r d 2 ∪ ⋯ ∪ w o r d n mail=word1\cup word2\cup \cdots\cup wordn mail=word1∪word2∪⋯∪wordn
上面语句的意思就是:一封邮件由相应的n个word同时出现构成
顺着这个思路,套用前面的公式(1),一封邮件是否为垃圾邮件的概率公式就可以这么表述
P ( s p a m ∣ m a i l ) = P ( m a i l ∣ s p a m ) P ( s p a m ) P ( m a i l ) = P ( w o r d 1 , w o r d 2 , ⋯ , w o r d n ∣ s p a m ) P ( s p a m ) P ( m a i l ) \begin{aligned} P(spam|mail) &= \frac{P(mail|spam)P(spam)}{P(mail)}\\ &=\frac{P(word1,word2,\cdots ,wordn|spam)P(spam)}{P(mail)} \end{aligned} P(spam∣mail)=P(mail)P(mail∣spam)P(spam)=P(mail)P(word1,word2,⋯,wordn∣spam)P(spam)
在公式中,表示word之间与的关系不是用 ∪ \cup ∪来进行的,而是在有与关系的量之间用’,'隔开
公式中有三项,三项的计算公式依次为:
P ( w o r d 1 , w o r d 2 , ⋯ , w o r d n ∣ s p a m ) = ∏ k = 1 n P ( w o r d k ∣ s p a m ) = P ( w o r d 1 ∣ s p a m ) × P ( w o r d 2 ∣ s p a m ) × ⋯ × P ( w o r d n , s p a m ) \begin{aligned} P(word1,word2,\cdots ,wordn|spam) &= \prod_{k=1}^n P(word_k|spam) &= P(word_1|spam)×P(word_2|spam)×\dots ×P(word_n,spam) \end{aligned} P(word1,word2,⋯,wordn∣spam)=k=1∏nP(