《统计学习方法》 第四章 朴素贝叶斯

最新推荐文章于 2024-08-25 21:23:13 发布
最新推荐文章于 2024-08-25 21:23:13 发布
阅读量132 收藏
点赞数 1
分类专栏： 统计学习方法 文章标签： 机器学习 统计学
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45791939/article/details/113472089
版权

这一章节需要一些概率论的学习基础，学过概率论的朋友会很容易理解。

朴素贝叶斯法是基于贝叶斯定理 与特征条件独立假设的分类方法，是一种典型的生成学习方法。生成方法由训练数据学习联合概率分布P(X,Y),然后球的后验概率分布P(Y|X)。具体来说，利用训练数据学习P(X|Y)和P(Y）的估计，得到联合概率分布：P(X,Y)=P(Y)P(X|Y)。

朴素贝叶斯的基本假设：条件独立性
在这里插入图片描述

条件独立性假设事说用于分类的特征在类确定的条件下都是条件独立的，这是一个较强的假设。由于这一假设，模型包含的条件概率的数量大为减少，朴素贝叶斯的学习与预测大为简化。因而朴素贝叶斯法搞笑，且易于实现。其缺点是分类的性能不一定很高。

朴素贝叶斯法学习的基本方法
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
后验概率最大化的含义：

在这里插入图片描述
在这里插入图片描述
朴素贝叶斯的参数估计

极大似然估计

在这里插入图片描述
例题帮助理解 :

在这里插入图片描述
在这里插入图片描述

贝叶斯估计

在这里插入图片描述
例题帮助理解 :

在这里插入图片描述

自信的小螺丝钉
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
朴素贝叶斯（分类模型）
weixin_47547293的博客
10-23 1360
1、基本假设：各个维度上的特征被分类的条件概率之间是相互独立的 2、原理：单独考量每一维度特征被分类的条件概率，进而综合这些概率并对其所在的特征向量做出分类预测。 3、数学表达 p(y)的获得其实也较为简单：计算D中y的各个情况出现的频率即可（这里用到了大数定律：当训练集包含充足的独立同分布样本时，P(y)可通过各类样本出现的频率来进行估计） p(x|y)的获得略显困难，因为x往往包含多个相关因素（是一个多种因素构成的向量）。 所以目标转换为 agrmax 4、例子讲解...
李航 统计学习方法 第四章 朴素贝叶斯
manong_dashen的博客
05-17 327
李航 统计学习方法 第四章 朴素贝叶斯 基于贝叶斯定理和特征条件独立假设的分类方法.对于给定的训练数据集, 首先基于特征条件独立假设学习输入/输出的联合分布; 然后基于此模型, 对给定的输入x, 利用贝叶斯定理求出后验概率最大的输出y. 介绍朴素贝叶斯法, 包括朴素贝叶斯的学习和分类, 朴素贝叶斯法的参数估计算法. 基本方法 输入空间是n维向量的集合, 输出空间为类标记集合Y=c1,c2,...,cK\mathcal{Y}={c_1, c_2,..., c_K}Y=c1​,c2​,...,cK​, 输入为特
ML-朴素贝叶斯-先验分布/后验分布/似然估计
小航哥的博客
02-21 1976
文章目录引言概念后验分布朴素贝叶斯朴素在哪里？[逻辑回归与朴素贝叶斯有什么区别](https://www.zhihu.com/question/265995680)朴素贝叶斯的参数估计极大似然估计贝叶斯估计 引言 介绍先验分布/后验分布/似然估计 参考 一个例子搞清楚（先验分布/后验分布/似然估计） 概念 故事： 隔壁小哥要去15公里外的一个公园，他可以选择步行走路，骑自行车或者开辆车，然后通过其...
【机器学习】朴素贝叶斯(Naive Bayes)
qq_32742009的博客
08-26 615
在所有的机器学习分类算法中，朴素贝叶斯和其他绝大多数的分类算法都不同。对于大多数的分类算法，比如决策树,KNN,逻辑回归，支持向量机等，他们都是判别方法，也就是直接学习出特征输出Y和特征X之间的关系，要么是决策函数,要么是条件分布。但是朴素贝叶斯却是生成方法，也就是直接找出特征输出Y和特征X的联合分布,然后用得出。 朴素贝叶斯很直观，计算量也不大，在很多领域有广泛的应用，这里我们就对朴素贝叶斯算...
《统计学习方法》（李航著）读书笔记 第四章 朴素贝叶斯法
weixin_43826681的博客
10-18 248
相关视频： 朴素贝叶斯分类器 (Naive Bayes Classifier) 目录第四章 朴素贝叶斯法4.1 朴素贝叶斯法的学习与分类4.2 朴素贝叶斯法的参数估计 第四章 朴素贝叶斯法 朴素贝叶斯（naive Bayes）法：基于贝叶斯定理与特征条件独立假设的分类方法 假设：特征条件独立 学习：输入/输出的联合概率分布 输入：x 输出：利用贝叶斯定理求出后验概率最大的输出y 4.1 朴素贝叶斯法的学习与分类 4.1.1 基本方法 朴素贝叶斯法：生成模型 条件独立假设使朴素贝叶斯法变得简单，但有时会
2021-04-03
qq_45673225的博客
04-03 3656
机器学习与模式识别 （WHUer专属，水平有限，要是没看书就急着赶作业作业的话看看没问题的） 第1讲-绪论-课后作业 1、（1）对一位去医院做疾病诊断的病人而言，诊断技术的查全率重要还是查准率更重要？给出理由。（2）对不断向你推荐商品的网站，该网站的商品推荐系统的查全率还是查准率你更关注？给出理由。 （1）查准率重要，查全率是先验概率，查准率是后验概率。查全率：预测正确疾病数/总的疾病数; 查准率：准确预测数/所有预测个数。总疾病数未知，查准率更重要。 （2）查全率更重要，预测更多的心仪商品数越好，更受人关
统计学习方法 第4章 朴素贝叶斯法 习题答案
fxnfk
05-16 8676
1 描述 设输入空间X⊆Rn\mathcal{X} \subseteq R^n为nn维向量的集合，输出空间为类标记集合Y={c1,c2,…,cK}\mathcal{Y}=\{c_1,c_2,\dots,c_K\}。输入为特征向量x∈Xx \in \mathcal{X}，输出为类标记y∈Yy \in Y。XX是定义在输入空间X\mathcal{X}上的随机变量，YY是定义在输出空间Y\mathc
统计学习方法-机器学习-第四章：朴素贝叶斯法
07-25
统计学习方法-机器学习-第四章：朴素贝叶斯法
《统计学习方法》第4章朴素贝叶斯法与贝叶斯估计
you1314520me的专栏
10-28 808
前言 写本文章主要目的是复习（毕竟之前看纸质版做的笔记）， 对于证明比较跳跃和勘误的地方我都做了注解，以便初学者和以后复习地时候快速阅读理解不会卡住。 本文原文将书上所有证明给出，由于CSDN的公式编辑器公式支持不全，有些公式没法正常显示，欢迎点击此处查看原文, 个人技术博客：SnailDove 文章目录前言朴素贝叶斯法4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法4.1.2 后验概率最大化...
统计学习方法(李航) 朴素贝叶斯 附python及sklearn实现
m0_49337600的博客
08-11 325
朴素贝叶斯 有监督学习 分类问题 首先让我们回忆一下概率中的基本公式： 条件概率： P(A∣B)=P(A,B)P(B) P(A|B)=\frac{P(A,B)}{P(B)} P(A∣B)=P(B)P(A,B)​ P(B∣A)=P(B,A)P(A) P(B|A)=\frac{P(B,A)}{P(A)} P(B∣A)=P(A)P(B,A)​ 乘法公式： P(A,B)=P(B,A)=P(A∣B)P(B)=P(B∣A)P(A) P(A,B)=P(B,A)=P(A|B)P(B)=P(B|A)P(A) P(A,B)
朴素贝叶斯分类法（非常朴素的解释）
wuyijian_ml的博客
03-30 8471
最近在做一个短文本分类系统，尝试用朴素贝叶斯算法做了baseline的模型（最终没有采用这种算法），朴素贝叶斯法是个非常简单高效的分类算法， 这个算法断断续续看了好几遍，今天做一个总结，内容参考了李航的《统计学习方法》以及Goodfellow的《深度学习》。 简要解释下概率 简要解释下似然以及极大似然的含义 算法介绍 后验概率最大化的含义(算法为什么有效) 实际运用以及如何增量学习 ...
贝叶斯，朴素贝叶斯的基础原理及例子
zr1213159840的博客
06-05 402
频率派和贝叶斯派 频率派认为，样本所属的分布参数θ\thetaθ虽然是未知的，但是是固定的，可以通过样本对θ\thetaθ进行预估得到θ^\theta{\hat{}}θ^。 贝叶斯派认为参数θ\thetaθ是一个随机变量，不是一个固定的值，在样本产生前，会基于经验或者其他方法对θ\thetaθ预先设定一个分布π(θ)\pi(\theta)π(θ),称之为先验分布。之后会根据样本对θ\thetaθ进行调整，修正，记为π(θ∣x1,x2,x3,……)\pi(\theta|x1,x2,x3,……)π(θ∣x1,x
朴素贝叶斯原理详解(Navie Bayes)
热门推荐
weixin_43179522的博客
10-28 1万+
朴素贝叶斯原理详解1.知识准备2.贝叶斯定理3.贝叶斯定理在分类中的应用3.1条件独立3.2特征取离散值的条件概率3.3特征取连续值的条件概率高斯贝叶斯分类器:多项式贝叶斯分类器:伯努利贝叶斯分类器:4.条件概率的m估计5.逻辑斯特回归与朴素贝叶斯的区别6.API 1.知识准备 1.贝叶斯分类器要解决的问题: 已知某样本中各个属性的取值, 求其属于某label的概率 2.先验概率与后验概率 先验概率: 根据以往的经验或数据分析得到的概率P(X) 后验概率: 根据先验概率得到的是后验概率P(Y|X) 3.朴素
分类：朴素贝叶斯分类方法
huguozhiengr的博客
11-01 2044
在很多的应用中，属性集与类别之间的关系是不确定的，换句话说，尽管测试样本的属性值与训练样本相同，但是也不一定能正确的预测其类别，其中一个原因是噪声的存在，另一个原因是某些影响分类的属性并没有出现在属性集中。贝叶斯方法都有所耳闻，之所以称为“朴素”贝叶斯方法，是因为在分类时，假定了“各变量间相互独立”的条件，这个条件算是比较强的了，大大简化了分类时的计算，但同时也丢失了一些分类准确性...
机器学习——lightGBM（学习整理）
CXDNW的博客
08-22 1119
LightGBM 是 微软的 一个团队 在 Github 上开发的一个 开源项目，高性能 的 LightGBM 算法具有分布式 和 可以 快速处理大量数据的 特点。LightGBM 虽然 基于 决策树和 XGBoost 而生，但它 还遵循 其他不同的 策略。XGBoost 使用决策树 对一个 变量进行 拆分，并在 该变量上 探索不同的 切割点（按级别划分的 树生长策略），而LightGBM 则 专注于 按叶子节点 进行拆分，以便 获得更好的 拟合（按叶划分的树生长策略）。
《机器学习》—— OpenCV 对图片的各种操作
最新发布
weixin_73504499的博客
08-25 1300
1、安装OpenCV库、2、读取、显示、查看图片、3、对图片进行切割、4、改变图像的大小、5、图片打码、6、图片组合、7、图像运算、8、图像加权运算
建筑业AI的崛起The Rise of AI and Machine Learning in Construction
Climbman的博客
08-25 680
NSDT工具推荐建筑领域完全可以从机器学习和人工智能（AI）的出现中受益。作为 Autodesk BIM 360 Project IQ 团队的一员，我有幸参与 Autodesk 进军建筑机器学习领域。本文总结了这一领域的发展，并介绍了人们可以准备从这项技术中实现价值最大化的一些方法，包括对人工智能和机器学习在建筑中的一些应用及其潜在影响的广泛调查。这些流程正在各个领域发生变化，包括风险管理、进度管理、分包商管理、施工现场环境监控和安全等。
【机器学习】联邦学习技术
2301_79181030的博客
08-22 1590
联邦学习是一种分布式机器学习范式，其核心思想是利用分散在各参与方的数据集，通过隐私保护技术融合多方数据信息，协同构建全局模型。在模型训练过程中，各参与方仅交换模型参数、梯度等中间结果，而本地训练数据则不会离开本地，从而大大降低了数据泄露的风险。自治和联合。自治：各参与方在本地使用自己的数据进行模型训练，得到各自的模型参数。联合：各参与方将本地训练的模型参数上传至中心服务器（或采用去中心化方式），中心服务器进行模型参数的聚合与更新，并将更新后的参数分发回各参与方，进行下一轮迭代。
MosaicML-面向生成式AI的机器学习平台
Climbman的博客
08-22 995
前段时间，大数据巨头 Databricks 宣布已签署最终协议，将以13亿美元的价格，收购位于旧金山的人工智能初创公司MosaicML。这篇文章来自 MosaicML官方的技术博客，是对 MosaicML 大模型训练平台的一个简单介绍。AIGC领域最大收购：Databricks 13亿美元买下MosaicML，成立仅2年员工60人-36氪MosaicML 平台旨在应对训练 ChatGPT、LaMDA 和 Stable Diffusion 等大模型的挑战。
改进朴素贝叶斯分类方法：实证分析与性能提升
朴素贝叶斯分类方法是一种基于概率统计的机器学习技术，在数据挖掘领域占据着重要的地位。本篇硕士学位论文深入研究了这一主题，旨在探索如何克服传统朴素贝叶斯分类器中严格的属性独立性假设，以提升分类性能。 ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值