朴素贝叶斯分类：拉普拉斯修正

最新推荐文章于 2024-08-14 22:32:50 发布
最新推荐文章于 2024-08-14 22:32:50 发布
阅读量5.9k 收藏 5
点赞数 1
分类专栏： 机器学习 文章标签： 朴素贝叶斯 拉普拉斯修正
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/daigualu/article/details/78641423
版权

拉普拉斯修正

上面通过这个例子折射处一个问题：训练集上，很多样本的取值可能并不在其中，但是这不并代表这种情况发生的概率为0，因为未被观测到，并不代表出现的概率为0 。

正如上面的样本，看其他两个属性很可能属于好苹果，但是再加上颜色：青色，这三个属性取值组合在训练集中并未出现过，所以朴素贝叶斯分类后，这个属性取值的信息抹掉了其他两个属性的取值，在概率估计时，通常解决这个问题的方法是要进行平滑处理，常用拉普拉斯修正。

拉普拉斯修正的含义是，在训练集中总共的分类数，用 N 表示；di 属性可能的取值数用 Ni 表示，因此原来的先验概率 P(c) 的计算公式如何修正的呢？

请看公众号文章：

朴素贝叶斯分类：拉普拉斯修正

算法与机器学习

这里写图片描述

zg1g
关注
专栏目录
拉普拉斯修正——机器学习中常用的数据平滑处理方法
m0_52931616的博客
05-08 2265
机器学习中常用的数据平滑处理——拉普拉斯修正
西瓜书 习题7.3 朴素贝叶斯分类器+拉普拉斯修正
世靖的码场
01-22 3969
Naive Bayes Classifier with Laplacian correction 数据和代码在我的git上，原创代码： https://github.com/qdbszsj/NBC 朴素贝叶斯分类器，用的贝叶斯定理（这不是废话），举个例子，说白了就是：绿瓜是好瓜的概率=所有好瓜里的绿瓜个数/所有绿瓜个数。假如一个瓜是绿的，还很清脆，那么这个瓜是好瓜的概率就是P（绿瓜是
朴素贝叶斯采用拉普拉斯修正，完全按照西瓜书的实现，避免某个属性出现概率为0的情况
05-01
西瓜书上第七章朴素贝叶斯采用拉普拉斯修正，简单易懂，关键代码都有注释，适合初学者的理解
机器学习(六)：朴素贝叶斯及拉普拉斯修正
LW的技术小筑
01-10 4777
一.前言 2022年的第一篇博客，《机器学习》这个专栏去年由于自己的时间原因，更新的不勤，乘最近稍微有点时间准备开始陆陆续续更新，今天先来一道开胃菜：带拉普拉斯修正的朴素贝叶斯，话不多说请看下文。 二.贝叶斯定理 在正式介绍朴素贝叶斯算法之前先介绍下与其息息相关的贝叶斯定理（参考维基百科），其数学形式如下所示： P(A∣B)=P(A)P(B∣A)P(B) P(A|B) = \frac{P(A)P(B|A)}{P(B)} P(A∣B)=P(B)P(A)P(B∣A)​ 在贝叶斯定理中: P(A∣B)P(A|B
机器学习——朴素贝叶斯
最新发布
CXDNW的博客
08-14 1169
算法得出的结论，永远不是 100% 确定的，更多的是判断出了一种 “ 样本的标签更可能是某类的可能性 ”，而非一种 “ 确定 ”。决策树 使用的 是 叶子节点上 占比较多 的标签 所占的比例（接口 predict_proba 调用），逻辑回归 使用的 是 sigmoid函数 压缩后的 似然（接口 predict_proba 调用），而 SVM 使用的 是样本点到 决策边界的 距离（接口 decision_function 调用）。但这些指标的本质，都是一种 “类概率” 的表示，可以。
拉普拉斯修正学习笔记
weixin_44031260的博客
11-17 1756
为什么要做平滑处理?   由于在计算实例的概率时，如果某个量x，在观察样本库（训练集）中没有出现过，会导致整个实例的概率结果是0。   如，在文本分类的问题中，当一个词语没有在训练样本中出现，该词语属于各类的概率为0，使用连乘计算文本出现在各类的概率也均为0。这是不合理的，不能因为一个事件没有观察到就认定该事件被分类的概率是0。      为了解决零概率的问题，法国数学家拉普拉斯最早提出用加1的方...
机器学习之朴素贝叶斯分类+拉普拉斯平滑
11-14
**朴素贝叶斯分类**是基于概率理论的一种机器学习算法，其核心思想是假设特征之间相互独立，并且每个特征对预测结果的影响是独立的。在实际应用中，朴素贝叶斯模型简单、易于理解和实现，尤其适用于文本分类、垃圾...
西瓜数 课后习题7.3 朴素贝叶斯分类器 拉普拉斯修正
weixin_41056428的博客
12-21 2926
import csv from math import sqrt, pi, exp, log def read_data(filename): ''' 读数据，西瓜数据集3.0 :return: 返回数据集X 和标签集Y ''' X, Y = [], [] with open(filename) as f: reader = c...
python实现拉普拉斯修正的朴素贝叶斯分类器
01-14
（一）实验一：拉普拉斯修正的朴素贝叶斯分类器 8 1.问题理解与分析 8 2.算法原理阐述[3] 9 3.算法设计思路[2] 10 4.实验流程分析 11 5.实验数据的选择、实验结果展示、优化与分析 12 6.代码结构注释、核心源代码...
学习笔记 | 朴素贝叶斯、拉普拉斯修正
大虎牙的博客
05-24 2504
朴素贝叶斯 01 引例 02 贝叶斯定理 03 朴素二字从何而来？ 连续变量需要计算高斯分布的概率值。 04 拉普拉斯平滑处理（修正） 05 代码实践 import numpy as np from sklearn.naive_bayes import GaussianNB from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split X = np.array
基于朴素贝叶斯的垃圾邮件分类
05-07
基于朴素贝叶斯的垃圾邮件分类 对垃圾邮件的分类有较好的效果 达到99%
【数据挖掘】拉普拉斯修正 ( 判别模型 | 概率模型 | 贝叶斯分类 | 拉普拉斯修正 | 朴素贝叶斯分类应用场景 | 朴素贝叶斯优缺点 )
让 学习 成为一种 习惯 ( 韩曙亮 の 技术博客 )
04-21 3208
I . 判别模型 与 概率模型 II . 贝叶斯分类 III . 拉普拉斯修正 IV . 使用 朴素贝叶斯分类器 + 拉普拉斯修正 为样本分类 ( 完整分类流程 ) V . 朴素贝叶斯分类器使用 VI . 朴素贝叶斯分类的优缺点
机器学习 贝叶斯分类器 拉普拉斯修正
今晚看星星的博客
12-04 7697
文章目录1. 贝叶斯决公式2. 使用西瓜数据集3. 朴素贝叶斯3. 拉普拉斯修正4. 代码5. 结果5.1 训练数据集5.2 训练数据集5.3 结果6. 参考书籍 在分类问题情况下，在所有相关概率都已知的理想情形下，贝叶斯决策考虑如何基于这些概率和误判损失来选择最优的类> > 别标记 寻找一个判定准则 h:X → Y以最小化总体风险 贝叶斯判定准则：为最小化总体风险，只需在每个样本上选择那个能使条件风险R(c|x)最小的类别标记 被称为贝叶斯最优分类器，与之对应的总体风险R(h*)称为贝叶
朴素贝叶斯，Laplace平滑
fxnfk
07-08 3949
朴素贝叶斯分类是基于贝叶斯公式和特征条件独立假设的分类方法。 贝叶斯公式为：p(y|x)=p(x|y)∗p(y)p(x)p(y|x)=\frac{p(x|y)*p(y)}{p(x)}。x为特征向量，y是类别。 给定特征向量，求他属于那一个类别，也就是： maxyp(y|x)=maxyp(x|y)∗p(y)max_yp(y|x)=max_yp(x|y)*p(y) 假设特征是条件独立的，即p(x
拉普拉斯修正的朴素贝叶斯分类器及AODE分类器
小强强的博客
01-08 5319
下面的一些原理来着周志华老师的西瓜书。 *************************************************************************************************************** 拉普拉斯修正的朴素贝叶斯分类器主要目的是为了避免遇到某些特征属性为空时，使得相关后验概率为0的情况。其相关计算公式如下：
基于朴素贝叶斯的垃圾邮件分类-着重理解拉普拉斯变换
ningyanggege的博客
03-08 2445
1. 引言 在正式学习朴素贝叶斯之前，需要明确的是机器学习所要实现的是基于有限的训练样本集尽可能准确地估计出后验概率P(c|x)，即根据特征得到所属类别的概率，首先引入两个概念。判别式模型（discriminative models）：给定x，直接建模P(c|x)来预测c，比如决策树、BP神经网络、支持向量机等；生成式模型（generative models）：联合概率分布P(x,c)进行建模，...
朴素贝叶斯（Naive Bayes）原理+编程实现拉普拉斯修正的朴素贝叶斯分类器
热门推荐
KI的博客
07-22 13万+
朴素贝叶斯（Naive Bayes）原理+编程实现拉普拉斯修正的朴素贝叶斯分类器，以西瓜数据集3.0为训练集，对“测1”样本进行判别。
统计学习笔记4—朴素贝叶斯法
DMU_lzq1996的博客
09-22 233
第四章 朴素贝叶斯法 4.1朴素贝叶斯法的学习与分类 4.1.1基本方法 朴素贝叶斯法通过训练数据集学习联合概率分布。 利用先验概率分布和条件概率分布求得联合概率分布： 条件概率参数是指数级，太复杂—条件独立性假设：用于分类的特征在类确定的条件下是独立的。 朴素贝叶斯分类器： 4.1.2 后验概率最大化的含义 朴素贝叶斯法就是将实例分到后验概率最大的类中。 因此期望风险最小化就是后验概率最大...
拉普拉斯修正的朴素贝叶斯分类器与朴素贝叶斯分类器有什么区别与联系
05-24
朴素贝叶斯分类器（Naive Bayes Classifier）是一种基于贝叶斯定理的简单分类算法，它假设所有特征都是相互独立的，因此被称为“朴素”。朴素贝叶斯分类器通常用于文本分类、垃圾邮件过滤等领域。 拉普拉斯修正的朴素贝叶斯分类器是在朴素贝叶斯分类器的基础上进行改进的。当某个类别在训练数据中没有出现，或者某个特征在某个类别下没有出现时，朴素贝叶斯分类器的计算会出现问题。拉普拉斯修正的朴素贝叶斯分类器通过对计数进行加一来解决这个问题。具体来说，就是在计算条件概率时，将每个特征的计数都加上一个常数k，从而避免了概率为零的情况。 因此，拉普拉斯修正的朴素贝叶斯分类器与朴素贝叶斯分类器的区别在于：拉普拉斯修正的朴素贝叶斯分类器在计算条件概率时引入了一个常数k，用于解决概率为零的情况。 联系在于，拉普拉斯修正的朴素贝叶斯分类器仍然是基于贝叶斯定理的分类算法，同样也是一种简单的算法。它们的基本思想都是通过计算条件概率来判断待分类样本所属的类别。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值