朴素贝叶斯分类器

前知识了解:

  • 贝叶斯决策论是概率框架下实施决策的基本方法。

在这里插入图片描述

  • 贝叶斯定理:
    在这里插入图片描述
    贝叶斯定理是由果溯因的思想,当知道某件事情的结果后,由结果推断出这件事是由各种原因导致的概率为多少。
  • 极大似然估计:
    在这里插入图片描述

朴素贝叶斯分类器:

画重点:啥为”朴素”?(基于“属性条件独立性假设”:对已知类别,假设所有属性相互独立,换言之,假设每个属性独立地对分类结果发生影响。这是对朴素的定义)

基于朴素可以分别重新定义贝叶斯定理和贝叶斯判定准则,如下:

  • 重新定义贝叶斯定理:
    在这里插入图片描述
    在这里插入图片描述

  • 重新定义贝叶斯判定准则:
    在这里插入图片描述
    在这里插入图片描述

  • 求解朴素贝叶斯分类器:
    在这里插入图片描述
    结合下面例子求解过程:
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
(注本章节主要出自周志华《机器学习》,对于朴素贝叶斯分类器该书已经分析的很透彻,很合适看好几遍慢慢理解!这里只是对自己理解进行简单梳理。)

朴素贝叶斯分类器(Naive Bayes classifier)是一种常用的概率分类方法,它基于贝叶斯理论和特征独立假设。朴素贝叶斯分类器有着简单高效的特点,在文本分类、垃圾邮件过滤、情感分析等领域都有广泛应用。 朴素贝叶斯分类器的基本原理是利用训练集的特征和对应的分类标签构建生成模型,然后根据测试样本的特征,通过计算后验概率来进行分类预测。具体而言,朴素贝叶斯分类器假设特征之间相互独立,基于此假设,可以通过训练集中特征在各个类别下的条件概率来计算样本在不同类别下的后验概率,并选择后验概率最大的类别作为分类结果。 朴素贝叶斯分类器的训练过程包括两个步骤:首先是计算各个类别的先验概率,即每个类别在训练集中的出现频率;然后是计算每个特征在各个类别下的条件概率,即给定一个类别时,特征的条件概率。在得到先验概率和条件概率后,可以通过贝叶斯公式计算后验概率。 朴素贝叶斯分类器的优点在于对小规模数据集具有较好的分类性能,且能够处理多类别分类问题。而其缺点则是对于特征之间的相关性较为敏感,当特征之间存在强相关性时,朴素贝叶斯分类器的性能会下降。 总的来说,朴素贝叶斯分类器是一种简单而有效的分类方法,它在许多实际应用中表现出色。其理论基础扎实,实现相对简单,适用于处理小规模数据集的分类问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值