朴素贝叶斯及西瓜书实例

最新推荐文章于 2022-11-23 15:54:36 发布
最新推荐文章于 2022-11-23 15:54:36 发布
阅读量986 收藏 1
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46881031/article/details/107396299
版权

https://www.jianshu.com/p/5953923f43f0
线性分类–>软输出–>概率生成模型–>朴素贝叶斯
在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述

Light Runner°J.H.G
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习西瓜书复习 - 3 朴素贝叶斯
will680的博客
01-13 1239
A 说明 按照西瓜书的顺序，接下来的两章是神经网络跟SVM，但是因为同时在学习另一本书的原因，先复习了贝叶斯相关的原理 20200113，写博客太费时间，如果明天进度合理，再继续写 B 朴素贝叶斯 B.1贝叶斯公式 昨晚复习E-M算法的时候，遇到了一些麻烦，跟全概率公式有关，这里先列出全概率公式，暂时不会La Tex，粗略看了一下，一时半会应该学不会，下篇博客之前再学吧 Pa = Eb Pb * ...
朴素贝叶斯采用拉普拉斯修正，完全按照西瓜书的实现，避免某个属性出现概率为0的情况
05-01
西瓜书上第七章朴素贝叶斯采用拉普拉斯修正，简单易懂，关键代码都有注释，适合初学者的理解
西瓜书机器学习笔记——朴素贝叶斯
Erik_Ying的博客
07-22 581
机器学习笔记——朴素贝叶斯 引例 问题：现在周同学想购买一杯奶茶，如何判断奶茶是好喝(Y)还是不好喝(N)。 概念 为了判断奶茶好不好喝，引入四个特征：甜度、牛奶、冰块、茶叶。与几个概念 后验概率：给定观测向量X(x1=甜度，x2=牛奶…)，观察特定类别的概率P(y|x)，类别：Y={y0=好喝，y1=不好喝}，特征：X(x1=甜度，x2=牛奶，x3=茶叶，x4=冰块），抽象化如下。 风险：决策为Y时实际情况却为N。如：误诊，判断病人得肺炎，而实际上没有。 误判损失：λ为损失，假设损失的权重为0和1(
【朴素贝叶斯学习记录】西瓜书数据集朴素贝叶斯实现
m0_64669072的博客
11-23 686
本文主要根据西瓜书的朴素贝叶斯公式推导以及例题解答为基础进行学习。
[西瓜书]朴素贝叶斯--numpy + python实现
PJZero
05-15 3341
回到分类的问题上，我们想要通过上面的公式解决具体的分类问题。首先，我们根据一般的分类问题将上面公式中提到的A和B具体化一下，我们指示A为样本，其包含样本所有的特征数据。B为分类的类别。为更好的对对应起来，我们用x代指一个样本数据，c代表一个分类类别。那么就有如下的贝叶斯公式： $$P(c | x) = \frac{P(c) * P(x | c)}{P(x)}$$ 这个公式的左边描述的是，在我们已知一个数据样本的情况下
朴素贝叶斯Python实例及解析
12-24
本文实例为大家分享了Python朴素贝叶斯实例代码，供大家参考，具体内容如下 #-*- coding: utf-8 -*- #添加中文注释 from numpy import * #过滤网站的恶意留言 #样本数据 def loadDataSet(): postingList=[['my', '...
java实现朴素贝叶斯分类算法
12-23
5. **分类阶段**：对于新的实例，通过贝叶斯定理计算其属于各个类别的概率，将其分配到具有最高后验概率的类别。 6. **Java实现**：在Java中，可以自定义类来存储特征和概率，如`Feature`类表示特征，`...
朴素贝叶斯_朴素贝叶斯分类_
10-01
这种算法的核心思想是利用贝叶斯定理来预测未知类别的数据实例的类别，同时假设特征之间相互独立，即“朴素”假设。 1. **贝叶斯定理**: 贝叶斯定理是概率论中的一个关键概念，它描述了在已知一些证据的情况下，某...
python中如何使用朴素贝叶斯算法
09-21
### Python中如何使用朴素贝叶斯算法 #### 一、简介 朴素贝叶斯算法是一种基于概率论的经典机器学习方法，广泛应用于文本分类、垃圾邮件过滤等领域。它假设各特征之间相互独立，这一假设虽然在实际应用中往往不成立...
第四章-朴素贝叶斯朴素吗？
Cecilia
09-25 201
你觉得朴素贝叶斯朴素吗？ 个人觉得，一点也不朴素，如同“平凡出真知”，朴素贝叶斯还是很挺厉害的。如果想要了解朴素贝叶斯，那么需要先了解贝叶斯估计和极大似然估计。 极大似然估计 对于一个数据集T服从概率分布P，但是P中参数未知，针对极大似然估计，就是将未知参数看作一个定值，从而找未知参数能使得数据集T发生的概率最大。 极大似然估计：假设某个数据集T(x1,x2,...,xn)服从正态分布X&nbs...
朴素贝叶斯西瓜数据集
12-01
朴素贝叶斯相关西瓜数据集，用于自然语言处理>01.朴素贝叶斯介绍 中的案例数据，该数据集仅作参考使用
机器学习西瓜分类贝叶斯算法实例详解
10-17
机器学习-贝叶斯-西瓜分类 对代码的每一行进行了注解，适合初学者使用，主要代码来源是百度ai社区，只是对其进行了注解
【机器学习－西瓜书】七、朴素贝叶斯分类器
人工智能技术学习与分享
09-02 5218
推荐前期阅读：http://blog.csdn.net/u011995719/article/details/76732663 推荐阅读：拉普拉斯修正7.3朴素贝叶斯分类器关键词： 朴素贝叶斯；拉普拉斯修正 上一小节我们知道贝叶斯分类器的分类依据是这公式：P(c∣x)=P(x,c)P(x)=P(c)⋅P(c∣x)P(x)P(c\mid x)=\frac{P(x,c)}{P(x)}=\frac{P(
李航学习 | Chapter4 朴素贝叶斯法笔记
Pysamlam的博客
10-21 212
书籍 |《统计学习方法》作者 | 李航笔记 | Sam Gor贝叶斯分类其实在我日常工作中是很少接触到，这很常见的就是用于垃圾邮件分类、文本分类领域。今天学习的一个朴素...
机器学习—朴素贝叶斯代码实现—西瓜书3.0
everybody hates me的博客
10-02 2919
代码实现西瓜分类，我们先上数据： 我的编程实现过程非常杂糅，没有系统，而且我的python也没学多久，所以用的都是简单的循环、函数。在编程过程中，我把色泽变量记为x1，根蒂记为x2，敲声记为x3，纹理记为x4，脐部记为x5，触感记为x6，密度记为x7，含糖率记为x8，是否为好瓜这一名义变量记好瓜为0，坏瓜为1。 接下来，我们引入一些有关朴素贝叶斯算法的基础知识： 首先是计算先验概率： 在实际编程过程中我直接使用拉普拉斯平滑，取λ=1\lambda=1λ=1 则先验概率为 Pλ(Y=ck)=∑i=1NI(y
西瓜书-极大似然估计与朴素贝叶斯
yxyibb
07-16 680
学习内容 西瓜书的第7章 贝叶斯分类器。 极大似然估计和朴素贝叶斯分类器。 其中极大似然法贯穿我们整个机器学习和深度学习的理论中，是很多学习算法的基础，所以大家比如掌握。 另外朴素贝叶斯因为其优秀的速度优势，比如过去的判别邮件是否是垃圾邮件的任务中，一直扮演着重要决策，所以大家应该了解其思想。 学习时长：7/15——7/16 任务标题：极大似然估计与朴素贝叶斯 任务简介：学习西瓜书7.2/7.3...
【机器学习-西瓜书】第7章 贝叶斯分类器
wayaya112的博客
04-01 3141
7.1 贝叶斯决策论 (Bayesian Decision Theory) 在所有相关概率都已知的情况下，贝叶斯决策论考虑的是：如何基于这些概率和误判损失来选择最优的类别标记。 以多分类任务为例解释BDT的基本原理 表示 将真实标记 cj 的样本误分类为 ci 所产生的损失。基于后验概率可得到 将样本 x 分类为 ci 所产生的期望损失： 我们的目标是：寻找一个判定准则以最小化总体风险： 贝叶斯判定准则：为最小化总体风险，只需 在每个样本上选择那个能使条件风险 R( c|x...
半朴素贝叶斯分类器及贝叶斯网知识点（摘自西瓜书）
RookieFCB的专栏
11-10 2890
半朴素贝叶斯分类器半朴素贝叶斯分类器的基本思想： 适当考虑一部分属性间的相互依赖信息。 独依赖估计（One-Dependent Estimator，简称ODE） 是半朴素贝叶斯分类器最常用的一种策略。P(c|x)∝P(c)∏i=1dP(xi|c,pai)P(c|x)\propto P(c)\prod\limits_{i=1}^d P(x_i|c,pa_{i}) 其中paipa_{i}为属性xi
朴素贝叶斯分类-西瓜分类python
热门推荐
Five—菜鸟级的博客
08-20 1万+
1.算法思想——基于概率的预测 贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都已知的情况下，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的标记类别。 2. 理论基础 2.1 贝叶斯定理 这个定理解决了现实生活中经常遇到的问题：已知某条件概率，如何得到两个时间交换后的概率，也就是已知P(B∣A) 的情况下如何求得P(B∣A) 条件概率P(B∣A)：事件B已经...
朴素贝叶斯分类器实例及代码
最新发布
06-12
以下是朴素贝叶斯分类器的一个简单实例及代码： 假设我们有一个数据集，其中包含以下数据： | 文本 | 分类 | | ---------------------------------------- | ---- | | Chinese Beijing Chinese | 中国 | | Chinese Chinese Shanghai | 中国 | | Chinese Macao | 中国 | | Tokyo Japan Chinese | 日本 | 我们要使用朴素贝叶斯分类器来对新的文本进行分类。 首先，我们需要对数据进行预处理，将文本转换为单词列表： ``` data = [ ['Chinese', 'Beijing', 'Chinese', '中国'], ['Chinese', 'Chinese', 'Shanghai', '中国'], ['Chinese', 'Macao', '中国'], ['Tokyo', 'Japan', 'Chinese', '日本'] ] ``` 然后，我们需要计算出每个类别及每个单词在每个类别中出现的概率。这里我们使用 Laplace 平滑来避免概率为 0 的情况： ``` class_prob = {} word_prob = {} # 计算类别概率 for row in data: cls = row[-1] class_prob[cls] = class_prob.get(cls, 0) + 1 total = len(data) for cls, count in class_prob.items(): class_prob[cls] = (count + 1) / (total + len(class_prob)) # 计算单词概率 for row in data: cls = row[-1] for word in row[:-1]: word_prob.setdefault(word, {}) word_prob[word][cls] = word_prob[word].get(cls, 0) + 1 for word, cls_prob in word_prob.items(): total = sum(cls_prob.values()) for cls, count in cls_prob.items(): cls_prob[cls] = (count + 1) / (total + len(word_prob)) ``` 现在我们可以使用这些概率来对新的文本进行分类。假设我们要对以下文本进行分类： ``` text = 'Chinese Chinese Chinese Tokyo Japan' ``` 我们需要计算出该文本属于每个类别的概率，然后选择概率最大的类别作为分类结果： ``` import math tokens = text.split() scores = {} for cls, cls_prob in class_prob.items(): scores[cls] = math.log(cls_prob) for word in tokens: word_cls_prob = word_prob.get(word, {}).get(cls, 1e-10) scores[cls] += math.log(word_cls_prob) result = max(scores, key=scores.get) print(result) ``` 以上就是一个简单的朴素贝叶斯分类器实例及代码。注意，这只是一个简单的示例，实际应用中还需要进行更多的优化和调整。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值