基于贝叶斯的垃圾邮件过滤器 JAVA

<span style="font-size: 18px;">package cn.zhf.test;  

import java.io.*;  
import java.util.*;  

public class SpamMailDetection {  
    public static final String BASE_PATH = "C:\\Users\\zhf\\Desktop\\mail";  
    public static final String SPAM_PATH = BASE_PATH + "\\train_illegal.txt";//垃圾邮件语料  
    public static final String OK_PATH = BASE_PATH + "\\train_legal.txt";//正常邮件语料  
    public static final String EMAIL_PATH = BASE_PATH + "\\to_judge.txt";//要判别的邮件  
    public static final String DICT_PATH = BASE_PATH + "\\dict.txt";//分词用的词典  

    public static void main(String[] args) {  
        SpamMailDetection smc = new SpamMailDetection();  
        //<word,(word/NonSpamCorpus)>  
        Map<String, Double> okmap = smc.createMailMap(OK_PATH);  
        //<word,(word/SpamCorpus)>  
        Map<String, Double> spammap = smc.createMailMap(SPAM_PATH);  
        Map<String, Double> ratemap = smc.createSpamProbabilityMap(spammap, okmap);  
        double probability = smc.judgeMail(EMAIL_PATH, ratemap);  
        if (probability > 0.5)//概率大于0.5则判定为垃圾  
            System.out.println("It's an ok mail.");  
        else  
            System.out.println("It's a spam mail.");  

    }  

    /** 
     * 给定邮件,分词,根据分词结果判断是垃圾邮件的概率  
     * P(Spam|t1,t2,t3……tn)=(P1*P2*……PN)/(P1*P2*……PN+(1-P1)*(1-P2)*……(1-PN)) 
     */  
    public double judgeMail(String emailPath, Map<String, Double> ratemap) {  
        List<String> list = segment(readFile(emailPath));  
        double rate = 1.0;  
        double tempRate = 1.0;  
        for (String str : list) {  
            if (ratemap.containsKey(str)) {  
                double tmp = ratemap.get(str);  
                tempRate *= 1 - tmp;  
                rate *= tmp;  
            }  
        }  
        return rate / (rate + tempRate);  
    }  

    /** 
     * 从给定的垃圾邮件、正常邮件语料中建立map <切出来的词,出现的频率> 
     */  
    public Map<String, Double> createMailMap(String filePath) {  
        String str = readFile(filePath);  
        List<String> list = segment(str);  
        Map<String, Integer> tmpmap = new HashMap<String, Integer>();  
        Map<String, Double> retmap = new HashMap<String, Double>();  
        double rate = 0.0;  
        int count = 0;  
        for (String s : list) {  
            tmpmap.put(s, tmpmap.containsKey(s) ? count + 1 : 1);  
        }  
        for (Iterator iter = tmpmap.keySet().iterator(); iter.hasNext();) {  
            String key = (String) iter.next();  
            rate = tmpmap.get(key) / list.size();  
            retmap.put(key, rate);  
        }  
        return retmap;  
    }  

    /** 
     * 建立map,<str,rate> 邮件中出现ti时,该邮件为垃圾邮件的概率 
     * P( Spam|ti) =P2(ti )/((P1 (ti ) +P2 ( ti )) 
     */  
    public Map<String, Double> createSpamProbabilityMap(Map<String, Double> spammap,  
            Map<String, Double> okmap) {  
        Map<String, Double> retmap = new HashMap<String, Double>();  
        for (Iterator iter = spammap.keySet().iterator(); iter.hasNext();) {  
            String key = (String) iter.next();  
            double rate = spammap.get(key);  
            double allRate = rate;  
            if (okmap.containsKey(key)) {  
                allRate += okmap.get(key);  
            }  
            retmap.put(key, rate / allRate);  
        }  
        return retmap;  
    }  

    /** 
     * 中文分词 
     */  
    public List<String> segment(String str) {  
        Map<String, Integer> map = loadDict();  
        List<String> list = new ArrayList<String>();  
        int len = str.length();  
        String term;  
        int maxSize = 6;  
        int i = 0, j = 0;  
        while (i < len) {  
            int n = i + maxSize < len ? i + maxSize : len + 1;  
            boolean findFlag = false;  
            for (j = n - 1; j > i; j--) {  
                term = str.substring(i, j);  
                if (map.containsKey(term)) {  
                    list.add(term);  
                    findFlag = true;  
                    i = j;  
                    break;  
                }  
            }  
            if (findFlag == false)  
                i = j + 1;  
        }  
        return list;  
    }  

    /** 
     * 加载词典文件 
     */  
    public Map<String, Integer> loadDict() {  
        Map<String, Integer> map = new HashMap<String, Integer>();  
        String[] str;  
        try {  
            BufferedReader br = new BufferedReader(new InputStreamReader(  
                    new FileInputStream(new File(DICT_PATH)), "gbk"));  
            String tmp = "";  
            while ((tmp = br.readLine()) != null) {  
                str = tmp.split("\t");  
                map.put(str[0], 0);  
            }  
            br.close();  
        } catch (FileNotFoundException e) {  
            e.printStackTrace();  
        } catch (IOException e) {  
            e.printStackTrace();  
        }  
        return map;  
    }  

    /** 
     * 读文件 
     */  
    public String readFile(String filePath) {  
        String str = "";  
        try {  
            BufferedReader br = new BufferedReader(new InputStreamReader(  
                    new FileInputStream(new File(filePath)), "gbk"));  
            String tmp = "";  
            while ((tmp = br.readLine()) != null)  
                str += tmp;  
            br.close();  
        } catch (FileNotFoundException e) {  
            e.printStackTrace();  
        } catch (IOException e) {  
            e.printStackTrace();  
        }  
        return str;  
    }  

}  
</span>  
  • 3
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 9
    评论
### 回答1: 基于贝叶斯垃圾邮件过滤是一种常见的垃圾邮件过滤方法。其基本思想是通过对已知的垃圾邮件和正常邮件进行统计分析,得出每个单词在垃圾邮件和正常邮件中出现的概率,然后根据这些概率来判断一封邮件是否为垃圾邮件。 具体实现过程包括以下几个步骤: 1. 收集训练数据:收集一定数量的已知垃圾邮件和正常邮件,用于训练模型。 2. 分词:将邮件内容进行分词,得到每个单词的出现次数。 3. 计算概率:根据训练数据,计算每个单词在垃圾邮件和正常邮件中出现的概率。 4. 计算邮件概率:根据每个单词在邮件中出现的次数,计算该邮件为垃圾邮件的概率。 5. 判断邮件类型:根据计算出的概率,判断该邮件是否为垃圾邮件。 基于贝叶斯垃圾邮件过滤方法可以有效地过滤垃圾邮件,但也存在一定的误判率。因此,在实际应用中,还需要结合其他方法来提高过滤的准确率。 ### 回答2: 随着互联网的普及和快速发展,电子邮件作为一种很重要的通信工具已经成为了人们生活中必不可少的一部分。然而,随着电子邮件的广泛传播和应用,垃圾邮件的存在也越来越得到人们的关注,它们给人们的生活带来了很多不便和干扰。为了有效地过滤掉垃圾邮件,基于贝叶斯垃圾邮件过滤成为了一种非常有效的解决方案。 基于贝叶斯垃圾邮件过滤是一种概率统计的算法,它通过对训练集进行分类学习和特征选取,计算每个特征在垃圾邮件和非垃圾邮件中的概率,从而对新邮件进行分类。 实现这一算法,需要以下步骤: (1)选择特征:通过特征选择,确定用于进行分类的特征,减小特征维度、降低复杂度、提高分类准确性。 (2)建立分类模型:贝叶斯定理中需要对类别的先验概率和条件概率进行计算。此处采用朴素贝叶斯方法,假设每个特征独立。根据样本中特征与类别的联合概率公式,计算垃圾邮件、正常邮件及其中每个特征的概率。 (3)测试分类:使用测试集来测试分类,得到分类的预测准确率。可以通过调整特征选择和模型参数的方法来提高分类的精确度和召回率。 (4)应用到实际系统中:将训练好的分类应用到实际系统中进行垃圾邮件过滤,减少垃圾邮件对用户的干扰。 总之,基于贝叶斯垃圾邮件过滤是一种非常有效的解决方案。但是,分类的精度和效率是需要不断优化的。通过优化特征选择和模型参数等方法,继续提高分类的精度和召回率,从而更好地为用户提供服务。 ### 回答3: 贝叶斯过滤是一种用于过滤垃圾邮件的算法,其基本原理是利用贝叶斯定理来计算某条邮件是垃圾邮件的概率,建立垃圾邮件和非垃圾邮件的概率模型,通过训练来预测新邮件分类。对于已知的垃圾邮件,可以通过垃圾邮件特征(如垃圾邮件中常用的词汇、发件人、邮件主题等)来计算其在垃圾邮件和所有邮件中出现的概率,进而计算某个新邮件是否是垃圾邮件的概率。 基于贝叶斯垃圾邮件过滤的设计与实现可以分为以下几个步骤: 1. 数据预处理:收集训练集数据,对数据进行预处理,包括分词、停用词处理、词干化处理、词频统计等。 2. 计算概率:根据训练集数据,计算垃圾邮件和非垃圾邮件中每个词汇出现的概率,以及垃圾邮件和非垃圾邮件的先验概率。 3. 构建模型:将词汇出现的概率和先验概率组合起来,构建贝叶斯模型。 4. 邮件分类:对于一个新的邮件,将其分词处理,计算每个词汇出现的概率,然后带入贝叶斯模型中计算垃圾邮件的概率和非垃圾邮件的概率,最终将其分类为垃圾邮件或非垃圾邮件。 5. 模型优化:对分类效果较差的邮件进行分析,找出原因并进行优化,如增加新的特征、调整参数等。 基于贝叶斯垃圾邮件过滤可以通过机器学习算法不断优化,提高分类效果。同时,随着新的特征的引入,分类效果也会不断得到提高。因此,它是一种高效、准确、普遍使用的垃圾邮件过滤

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值