朴素贝叶斯算法实现对邮件的分类

本文介绍了如何使用朴素贝叶斯算法对垃圾邮件进行分类。首先讲解了朴素贝叶斯算法的原理,然后详细阐述了数据预处理步骤,包括转小写、替换符号和数字、提取单词、去除停止词等,并讨论了数据结构的选择以提高计算效率。接着,解释了拉普拉斯平滑和取对数避免下溢出的技术细节,最后给出了算法的Python实现代码。
摘要由CSDN通过智能技术生成

通过朴素贝叶斯算法来分类垃圾邮件的PYTHON实现(超易懂)


前言

本文的目的是让没有基础的小白也能懂如何通过朴素贝叶斯算法来对垃圾邮件进行分类,讲得不到位的还请各位指正
文章会先讲解贝叶斯算法分类垃圾邮件的原理,之后会给出python实现代码

提示:以下是本篇文章正文内容,下面案例可供参考

一、朴素贝叶斯算法分类垃圾邮件原理

朴素贝叶斯算法是这么描述的:

用贝叶斯定理来预测一个未知类别的样本属于各个类别的可能性,选择可能性最大的一个类别作为该样本的最终类别

这个算法对应到垃圾邮件分类这个实例就可以这么描述:

用贝叶斯定理来预测一封由若干个单词组成的不知道是否为垃圾邮件的邮件,它是垃圾邮件或是正常邮件的可能性,如果算法预测出垃圾邮件的可能性更高,那这封邮件就是垃圾邮件,反之为正常邮件

上面的内容其实就是本文要做的全部事情,如果各位看懂了的话就已经成功了一半。


贝叶斯定理的公式:

P ( H ∣ X ) = P ( X ∣ H ) P ( H ) P ( X ) (1) P(H|X)=\frac{P(X|H)P(H)}{P(X)}\tag{1} P(HX)=P(X)P(XH)P(H)(1)
其中P(H)表示假设H的先验概率
P(X)表示数据X的先验概率
P(H|X)表示在条件X下,假设H的后验概率
P(X|H)表示在假设H的前提下,样本X的后验概率

不要管先验、后验概率这些有的没的,毕竟这篇文章的目的是让大家都能看懂,你只要看公式(1)就好了, P ( X ∣ H ) P ( H ) P ( X ) \frac{P(X|H)P(H)}{P(X)} P(X)P(XH)P(H)中的三项后面都会直接给公式。
简单来说,这个公式是用来求条件概率的,如 P ( H ∣ X ) P(H|X) P(HX),这个的意思就是求在事件 X X X发生的前提下,事件 H H H发生的概率。结合垃圾邮件分类你可以这么写

P ( 该 邮 件 是 垃 圾 邮 件 ∣ 该 邮 件 中 所 有 的 词 同 时 存 在 ) P(该邮件是垃圾邮件|该邮件中所有的词同时存在) P()

这个语句的意思就是,由某些词同时出现构成了一封邮件,这封邮件是垃圾邮件的概率就为上面的那个语句。

我们忽略一封邮件的各种标点符号和数字,那么一封邮件可以用这么一个逻辑表达式来进行表述

m a i l = w o r d 1 ∪ w o r d 2 ∪ ⋯ ∪ w o r d n mail=word1\cup word2\cup \cdots\cup wordn mail=word1word2wordn

上面语句的意思就是:一封邮件由相应的n个word同时出现构成
顺着这个思路,套用前面的公式(1),一封邮件是否为垃圾邮件的概率公式就可以这么表述

P ( s p a m ∣ m a i l ) = P ( m a i l ∣ s p a m ) P ( s p a m ) P ( m a i l ) = P ( w o r d 1 , w o r d 2 , ⋯   , w o r d n ∣ s p a m ) P ( s p a m ) P ( m a i l ) \begin{aligned} P(spam|mail) &= \frac{P(mail|spam)P(spam)}{P(mail)}\\ &=\frac{P(word1,word2,\cdots ,wordn|spam)P(spam)}{P(mail)} \end{aligned} P(spammail)=P(mail)P(mailspam)P(spam)=P(mail)P(word1,word2,,wordnspam)P(spam)
在公式中,表示word之间与的关系不是用 ∪ \cup 来进行的,而是在有与关系的量之间用’,'隔开

公式中有三项,三项的计算公式依次为:

P ( w o r d 1 , w o r d 2 , ⋯   , w o r d n ∣ s p a m ) = ∏ k = 1 n P ( w o r d k ∣ s p a m ) = P ( w o r d 1 ∣ s p a m ) × P ( w o r d 2 ∣ s p a m ) × ⋯ × P ( w o r d n , s p a m ) \begin{aligned} P(word1,word2,\cdots ,wordn|spam) &= \prod_{k=1}^n P(word_k|spam) &= P(word_1|spam)×P(word_2|spam)×\dots ×P(word_n,spam) \end{aligned} P(word1,word2,,wordnspam)=k=1nP(

  • 0
    点赞
  • 34
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值