学习笔记：机器学习之朴素贝叶斯法

已于 2022-06-28 15:06:31 修改
阅读量223 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习 学习 人工智能
于 2022-06-21 17:02:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44635691/article/details/125373680
版权

0 引入

       朴素贝叶斯法是基于贝叶斯定理和特征条件独立假设的分类方法。

                                                                                                 ————《统计学习方法》

         根据书上给出的定义不难看出该算法与贝叶斯定理有直接联系，贝叶斯定理是求后验概率的一种方法，这样我们对于给定的x,基于该种方法可以计算出后验概率最大的输出y，所以这也可以是一种分类方法。

Why naive?

        这里的朴素是说该方法对条件概率作了条件独立性的假设，所以是naive Bayes。即

   

1 分类算法

 为什么将后验概率最大值的类别作为输出结果？

        与之前学的感知机、k近邻算法类似我们需要一个损失函数得值去度量此时的参数是否最优，贝叶斯算法同样如此：

 2 两种参数估计方式

2.1 极大似然估计

  1. 求出似然函数
  2. 算出使得似然函数最大时的参数(取对数，直接算)
  3. 求得参数

这两个先验概率可通过该方法计算出来，设所求先验概率P=\Theta,再经过以上3步进行求解，即可得到。

2.2 贝叶斯估计

萌龙如我们
关注
专栏目录
Python从0到100（五十九）：机器学习-朴素贝叶斯分类及鸢尾花分类
Hello大家好，我是Dream，如果帮得到你，那我深感荣幸！交流学习、商务合作：https://bbs.csdn.net/topics/614347534
09-24 3万+
朴素⻉叶斯（Naive Bayes）是⼀种基于⻉叶斯定理的概率统计分类算法，常⽤于⽂本分类和多类别分类问题。它的基本原理是。该算法通过计算给定类别的特征条件概率来进⾏分类。
机器学习之朴素贝叶斯算法
RayChiu757374816的博客
11-08 2907
关于NLP中的概率图模型，我们知道目前最流行的算法思想包含如下两大流派：基于概率论和图论的概率图模型；基于人工神经网络的深度学习理论。 贝叶斯公式与朴素贝叶斯算法 贝叶斯公式最早是由英国神学家贝叶斯提出来的，用来描述两个条件概率之间的关系。在之前的条件概率定义中，我们知道 ： 可推导出： 由此，推广到随机变量的范畴，设X，Y为两个随机变量，得到贝叶斯公式：其中，P(Y)叫作先验概率，P(Y|X)叫作后验概率，P(Y,X)是联合概率 在机器学习的视角下，我们把...
机器学习笔记：贝叶斯原理和朴素贝叶斯分类
杂文集
11-17 817
1 贝叶斯原理 p(A∣B)=p(A)×p(B∣A)p(B) p(A|B)=\frac{p(A)×p(B|A)}{p(B)} p(A∣B)=p(B)p(A)×p(B∣A)​ 提到贝叶斯大家都会想到这个计算条件概率的公式。的确，我当时做这些概率题时都是直接套公式，很少思考背后的原理。那么今天就来捋一捋吧。 首先，条件概率就是后验概率，后验概率是由先验概率和补充信息决定的。举个例子，当你看到一个有新生儿的家庭阳台上晾着粉色的小衣服，你会如何猜测这个新生儿的性别呢？ 这里的先验概率就是0.5，补充信息是粉色的小衣
机器学习——朴素贝叶斯
CXDNW的博客
08-14 1342
算法得出的结论，永远不是 100% 确定的，更多的是判断出了一种 “ 样本的标签更可能是某类的可能性 ”，而非一种 “ 确定 ”。决策树 使用的 是 叶子节点上 占比较多 的标签 所占的比例（接口 predict_proba 调用），逻辑回归 使用的 是 sigmoid函数 压缩后的 似然（接口 predict_proba 调用），而 SVM 使用的 是样本点到 决策边界的 距离（接口 decision_function 调用）。但这些指标的本质，都是一种 “类概率” 的表示，可以。
机器学习：朴素贝叶斯笔记
Ningbo_JiaYT的博客
01-02 975
朴素贝叶斯学习笔记
机器学习笔记3：Python底层实现朴素贝叶斯
cccccyyyyy12345678的博客
07-02 367
历史文章： 1、python底层实现KNN:https://blog.csdn.net/cccccyyyyy12345678/article/details/117911220 2、Python底层实现决策树：https://blog.csdn.net/cccccyyyyy12345678/article/details/118389088 1、导入数据 使用的数据和决策树数据相同，使用贷款数据，详情如下： 导入数据步骤和之前文章提到的KNN，决策树相同，借助python自带的pandas库导
《Web安全之机器学习入门》笔记：第七章 7.8 朴素贝叶斯识别mnist验证码
mooyuan的博客
01-31 498
本小节是通过使用nb算法对mnist数据集的数字识别，不过效果一般般。 1.源码改错 作者提供的配套源码编译时有如下问题报错： C:\ProgramData\Anaconda3\python.exe C:/Users/liujiannan/PycharmProjects/pythonProject/Web安全之机器学习入门/code/7-6.py Traceback (most recent call last): File "C:/Users/l...
《Web安全之机器学习入门》笔记：第七章 7.7 朴素贝叶斯检测对Apache的DDoS攻击
mooyuan的博客
01-31 1567
拒绝服务攻击是 Denial of service的简称，即拒绝服务，任何对服务的干涉，使得其可用性降低或者失去可用性均称为拒绝服务。DDos是一种基于DoS的特殊形式的拒绝服务攻击，是一种分布的、协同的大规模攻击方式。 单一的DoS攻击一般是采用一对一方式的，它利用网络协议和操作系统的一些缺陷，采用欺骗和伪装的策略来进行网络攻击，使网站服务器充斥大量要求回复的信息，消耗网络带宽或系统资源，导致网络或系统不胜负荷以至于瘫痪而停止提供正常的网络服务。 分布式拒绝服务（Distributed Denial
机器学习经典算法笔记之二：朴素贝叶斯
l________yy的博客
03-09 1042
机器学习经典算法笔记之二：朴素贝叶斯什么是朴素贝叶斯算法实例：用朴素贝叶斯实现新闻文本分类算法需要注意的细节1、P(Fx|C)=0的处理方式需要理清的概念1、朴素贝叶斯用途2、联合概率、条件概率、事件独立3、朴素贝叶斯使用场景 什么是朴素贝叶斯算法 朴素贝叶斯方法是一种以01概率的形式展现分类结果的方法，常适用于文本分类领域。通过运用贝叶斯公式，从而计算预测样本的target概率值。 （大白话：朴素贝叶斯=朴素+贝叶斯） 什么是贝叶斯 P(C|W)=P(W|C)*P( C)/P(W) 说明：在W条件下C发生
机器学习之朴素贝叶斯（自学笔记）
金亮的博客
08-24 297
朴素贝叶斯的概念，算法原理，优缺点 以及简单的例题介绍 （一）提出问题 （二）概率计算
基于python的贝叶斯分类算法_Python机器学习笔记：朴素贝叶斯算法
weixin_39597636的博客
12-03 901
完整代码及其数据，请移步小编的GitHub传送门：请点击我如果点击有误：https://github.com/LeBron-Jian/MachineLearningNote朴素贝叶斯是经典的机器学习算法之一，也是为数不多的基于概率论的分类算法。对于大多数的分类算法，在所有的机器学习分类算法中，朴素贝叶斯和其他绝大多数的分类算法都不同。比如决策树，KNN，逻辑回归，支持向量机等，他们都是判别方法，也...
机器学习笔记 - 学习朴素贝叶斯概念及应用
学以致用 知行合一
12-19 958
贝叶斯分类算法是一大类分类算法的总称；贝叶斯分类算法以样本可能属于某类的概率来作为分类依据；朴素贝叶斯分类算法是贝叶斯分类算法中最简单的一种。 朴素的意思是条件概率独立性。朴素贝叶斯方法是一组监督学习算法，基于贝叶斯定理，并在给定类变量值的情况下，每对特征之间的条件独立性的“朴素”假设。尽管它们的假设显然过分简化，但朴素的贝叶斯分类器在许多实际情况下（在著名的文档分类和垃圾邮件过滤中）都表现良好。他们需要少量的训练数据来估计必要的参数。另一方面也是由于过于...
【机器学习】21. Transformer: 最通俗易懂讲解
最新发布
weixin_48846514的博客
11-01 1043
Transformer 通俗易懂讲解，self-attention
【小白学机器学习29】 概率统计与图形 ( hist, bar, pie , box ,scatter ,line)
奔跑的犀牛先生
10-31 496
每个饼分位多个分块，每个分块大小不同，每个分块还可以分尖端和后面2部分。根据饼状图来的，南丁格尔玫瑰图。频度分布表：概率分布的雏形吧。
【机器学习】Softmax 函数
2303_80346267的博客
10-29 756
Softmax 是机器学习中常用的函数，广泛用于多分类问题的输出层。它可以将一组实数转换为一个概率分布，使得结果满足“非负”和“总和为1”的要求。在分类问题中，Softmax 让模型预测的每个类别概率都易于解释。本文将详细讲解 Softmax 的原理、公式推导、Numpy 实现及其在 Pytorch 中的实际应用。
人工智能—机器学习-图像处理
中段丸家
10-31 1105
使用深度学习算法来分析医学影像（如X光、CT扫描、MRI），帮助医生更快、更准确地做出诊断。：图像处理技术在自动驾驶汽车中至关重要，用于识别路标、行人和其他车辆。：通过机器学习分析监控视频，实时检测异常行为或可疑活动，提高安全性。：在身份验证和安防领域广泛应用，尤其在金融服务和个人设备解锁中。：利用图像处理技术提升用户体验，实现更沉浸的互动环境。
【小白学机器学习28】 统计学脉络+ 总体+ 随机抽样方法
奔跑的犀牛先生
10-31 973
我们自己当然可以自己定义一个我们全知的“整体”在这个角度，我们就是上帝但是这个知识“题目”“模型”“思想试验” ，我们可以在我们定义的世界里有上帝视角，这不奇怪。就和做题!= 解决社会上的真实问题一样，这些整体，一般并不是我们要面对的生活中的自然的/社会上的真正整体。类比的例子定距数据里，比如摄氏度，身高，我们也可以进行* /，因为我们预设了一个0点，温度0，身高0。那为什么说定距数据里，进行* /运算没有意义？
人工智能中的机器学习和模型评价
2303_82176667的博客
10-31 881
机器学习是人工智能的一个分支，它使计算机系统能够从数据中学习并做出决策，而无需进行明确的编程。它涉及到开发算法和技术，使计算机能够从数据中学习并做出预测或决策。
生成对抗网络详解：AI 如何创造逼真图像
shelly聊AI的博客
10-29 1293
生成对抗网络是一种非常强大的人工智能技术，它能够创造出逼真的图像，为图像生成、图像修复、风格转换等任务带来了革命性的突破。此时，生成器的目标是生成尽可能逼真的图像，使得判别器难以区分其生成的图像和真实图像。生成器通过调整自己的参数，使得判别器输出的概率值尽可能高，即让判别器认为生成的图像是真实图像。通过给判别器提供大量的真实图像和生成图像，让判别器学习到真实图像和生成图像的特征差异，从而提高其区分能力。生成器的目标是生成尽可能逼真的图像，使得判别器难以区分其生成的图像和真实图像。
吴恩达机器学习笔记：从基础到应用详解
- 朴素贝叶斯：基于特征独立假设的简单但强大的分类算法，常用于文本分类和朴素贝叶斯网络。 **6. 实际应用与扩展** - 朴素贝叶斯算法的应用：文本分类，如新闻分类或情感分析；神经网络模型，包括基本结构和可能的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值