读书笔记-《机器学习》第七章：贝叶斯分类器

最新推荐文章于 2024-08-14 22:32:50 发布
最新推荐文章于 2024-08-14 22:32:50 发布
阅读量1.7k 收藏 2
点赞数
分类专栏： 读书笔记 读书笔记《机器学习》（周志华）
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lz_peter/article/details/80394741
版权
本文是关于《机器学习》第七章的读书笔记，主要探讨贝叶斯分类器的概念，包括先验概率、后验概率、贝叶斯判定准则。介绍了判别式模型和生成式模型，特别是朴素贝叶斯分类器的工作原理，强调了属性条件独立性假设的重要性。还提到了拉普拉斯修正解决概率估值为零的问题，以及EM算法在参数估计中的应用。
摘要由CSDN通过智能技术生成

第七章 贝叶斯分类器

  • 将由结果推原因转化为由原因推结果
  • 先验概率：是根据以往经验和分析得到的概率
  • 后验概率：事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小，即由结果倒推原因
  • 贝叶斯判定准则：为最小化总体风险，只需在每个样本上选择那个能使条件风险R(c|x)最小的类别标记
  • 判别式模型：给定x，通过直接建模P(c|x)来预测c；决策树、BP神经网络、支持向量机等
  • 生成式模型：先对联合概率分布P(x,c)建模，然后再由此获得P(c|x)；朴素贝叶斯
  • 对于生成式模型，必然考虑：

基于贝叶斯定理，可写为

因此估计P(c|x)的问题就转化为如何基于训练集数据集D来估计先验概率P(c)和类条件概率P(x|c)

  • 对于类先验概率P(c)&
最低0.47元/天 解锁文章
-永不妥协-
关注
专栏目录
机器学习 第七章 贝叶斯分类器
Avery123123的博客
06-03 274
机器学习 第七章 贝叶斯分类器机器学习 第七章 贝叶斯分类器贝叶斯决策论极大似然估计朴素贝叶斯分类器半朴素贝叶斯分类器贝叶斯网EM算法阅读材料 机器学习 第七章 贝叶斯分类器 贝叶斯决策论 极大似然估计 朴素贝叶斯分类器 半朴素贝叶斯分类器 贝叶斯网 EM算法 阅读材料 ...
小白学习机器学习---第七章:贝叶斯分类器
hx14301009的博客
04-12 1257
1.贝叶斯决策论(Bayesian decision theory)        贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都已知的理想情形下，它考虑如何基于这些概率和误判损失来选择最优的类别标记。        如：设有N种可能的标记，即Y=C1，C2，……Cn，则基于后验概率P（Ci|X）可获得将样本X分类为Ci所产生的期望损失（expected loss）也...
机器学习——朴素贝叶斯
最新发布
CXDNW的博客
08-14 1148
算法得出的结论，永远不是 100% 确定的，更多的是判断出了一种 “ 样本的标签更可能是某类的可能性 ”，而非一种 “ 确定 ”。决策树 使用的 是 叶子节点上 占比较多 的标签 所占的比例（接口 predict_proba 调用），逻辑回归 使用的 是 sigmoid函数 压缩后的 似然（接口 predict_proba 调用），而 SVM 使用的 是样本点到 决策边界的 距离（接口 decision_function 调用）。但这些指标的本质，都是一种 “类概率” 的表示，可以。
机器学习（周志华）_第七章 贝叶斯分类器
liuyan20062010的专栏
04-27 1365
第七章的知识点
第七章 贝叶斯分类器
williananjhon的博客
07-08 252
第七章 贝叶斯分类器 7.1 贝叶斯决策论 贝叶斯决策论(Bayesian Decision theory)是概率框架下实施决策的基本方法。 假设有N种情况的类别标记，即y={c1,c2,…,cN}y = \left\{ c_{1},c_{2},\ldots,c_{N} \right\}y={c1​,c2​,…,cN​},λij\lambda_{\text{ij}}λij​是将一个真实的标记为cj...
《机器学习西瓜书》学习笔记——第七章_贝叶斯分类器_朴素贝叶斯分类器
欢迎光临啊噗不是阿婆主的酒馆
09-23 1168
朴素：特征条件独立；贝叶斯：基于贝叶斯定理。 朴素贝叶斯是经典的机器学习算法之一，也基于概率论的分类算法，属于监督学习的生成模型。朴素贝叶斯原理简单，也很容易实现，多用于文本分类，比如垃圾邮件过滤。 1.算法思想——基于概率的预测 贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都已知的情况下，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的标记类别。 2. 理论基...
机器学习-贝叶斯分类器
喜欢打酱油的老鸟
04-30 2106
https://www.toutiao.com/a6684876999611122187/ 2019-04-28 17:36:54 目录： 1.贝叶斯分类器的基础 2.朴素贝叶斯分类器 3.朴素贝叶斯分类实例 4.关于朴素贝叶斯容易忽略的点 5.朴素贝叶斯分类器的优缺点 1. 摘要 贝叶斯分类器是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类器。而朴素...
西瓜书读书笔记——第七章：贝叶斯分类器
Andrewings
06-13 2380
第七章：贝叶斯分类器7.1 贝叶斯决策论条件风险7.2 极大似然估计 首先介绍一下贝叶斯公式： 实际上，分母为全概率公式，分子为联合概率。在机器学习中，更常见的形式为 P(B∣A)=P(A∣B)P(B)P(A)P(B|A)=\dfrac{P(A|B)P(B)}{P(A)}P(B∣A)=P(A)P(A∣B)P(B)​ 贝叶斯公式的作用在于将P(B|A)的估计转化为估计P(A|B)和P(B) 7.1...
李航《统计学习方法》笔记 --从原理到实现：基于R.pdf
03-31
1. 机器学习入门知识：文件中提到作者对《统计学习方法》这本书进行了阅读和笔记整理，说明了作者对于机器学习领域的初步探索。《统计学习方法》作为入门书籍，内容涵盖广泛，适合机器学习初学者，尤其是面向对统计...
《机器学习》周志华(西瓜书)学习笔记 第七章 贝叶斯分类器
sdm12345的博客
06-13 1370
《机器学习》周志华(西瓜书)学习笔记 总目录 第七章 贝叶斯分类器 1.贝叶斯决策论 假设有 N 种可能的类别标记，即 y={C1，C2，…，CN}y = \{C_1， C_2，… ， C_N\}y={C1​，C2​，…，CN​}λji\lambda_{ji}λji​ 是将一个真实标记为 CjC_jCj​ 的样本误分类为 CiC_iCi​ 所产生的损失. 基于后验概率 P(Ci∣x)P(C_i |...
机器学习笔记（六）：贝叶斯分类器
qq_35771020的博客
12-06 560
机器学习所研究的主要内容，是关于在计算机上从数据中产生“模型”的算法，这个产生的模型大体上可以分为“判别式模型”和“生成式模型”两大类。 其中判别式模型是给定x，通过直接对条件概率分布P（y|x）进行建模来预测y。这种方法寻找不同类别的最优分类面，反映的是异类数据之间的差异。之前几篇文章中介绍的SVM、决策树、线性模型等都是属于判别式模型。 生成式模型则是先对联合概率分布P（x,y）建模，然后...
第7章、贝叶斯分类器
qq_42148307的博客
10-15 163
7.1贝叶斯决策论 假设有NNN种可能的类别标记，即 yyy= {c1,c2，…cNc_{1}, c_{2} ，… c_{N}c1​,c2​，…cN​} ，λij\lambda_{ij}λij​ 是将一个真实标记为 cjc_{j}cj​的样本误分类为cic_{i}ci​ 所产生的损失。R(ci∣x)R(c_{i}|x)R(ci​∣x)样本xxx分类为cic_{i}ci​所产生的期望损失(expected loss) ，也称风险。 我们的任务是寻找一个判定准则 h:x−>yh:x->yh:x−&
机器学习第7章（贝叶斯分类器）
jinhualun911的博客
09-26 205
贝叶斯分类器(Bayes classifier) 7.1 贝叶斯决策论 Bayesian decision theory是概率框架下实施决策的基本方法。设有N种可能的标记，即 7.2 极大似然估计 7.3 朴素贝叶斯分类器 7.4 半朴素贝叶斯分类器 7.5 贝叶斯网 7.6 EM算法 ...
机器学习之西瓜书-第7章 贝叶斯分类器
sinat_40601382的博客
06-27 316
新的一章开始啦~ 7.1贝叶斯决策论 Bayesian decision theory 适用于多分类任务 目标：寻找一种分类器，使错分类率最小化/精度最大化 7.2 极大似然估计 以下取自知乎答主【马同学】的回答https://www.zhihu.com/question/24124998 书上： 7.3 朴素贝叶斯分类器 举例推荐读：https://blog.csdn.net/u011995719/article/details/77800120 7.4 半朴素贝叶斯分类.
机器学习--贝叶斯分类器
m0_55664376的博客
07-18 521
一. 贝叶斯决策论 贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率已知的情况下，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的类别标记。下面我们以多分类任务为例，来解释其基本原理。 （1）假设有N种可能的类别标记，y={c1,c2,...,cn},x 为样本。 （2）基于后验概率P(ci | x)可获得将样本x 分类为ci的期望损失R( ci | x)。这个损失可以理解为如果将x 分为ci类的风险损失最小,那么x最有可能被分为ci类，为什么是这样呢？根据书上R.
机器学习 之 贝叶斯分类器
Claire_Bear7的专栏
07-05 9060
今天，学习了贝叶斯分类的相关内容，总结如下：贝叶斯的思考方法在贝叶斯派出现之前，占据主流地位的思考方法是频率派。他们认为，事情发生的频率是一定的（虽然可能算不出来，但是是确定的一个值），然而，样本空间确实不确定的，因此只需要关注样本分布即可。而贝叶斯则认为，参数是随机的（会产生变化），而样本确实固定的，因此需要重点关注参数估计。为了估计参数，就需要先知道参数的无条件分布，也就是说在有样本之前，参数是
机器学习（贝叶斯分类器）
weixin_40355324的博客
03-19 600
贝叶斯定理：贝叶斯定理是关于随机事件A和B的条件概率（或边缘概率）的一则定理。其中P(A|B)是指在B发生的情况下A发生的可能性。贝叶斯定理也称贝叶斯推理，早在18世纪，英国学者贝叶斯(1702～1763)曾提出计算条件概率的公式用来解决如下一类问题：假设H[1],H[2]…,H[n]互斥且构成一个完全事件，已知它们的概率P(H[i]),i=1,2,…,n,现观察到某事件A与H[1],H[2]…,...
机器学习：贝叶斯分类器
m0_57385293的博客
02-11 3034
一、贝叶斯网络 二、朴素贝叶斯分类器
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值