【机器学习笔记】朴素贝叶斯

最新推荐文章于 2021-04-26 13:59:11 发布
最新推荐文章于 2021-04-26 13:59:11 发布
阅读量178 收藏 1
点赞数
文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43557445/article/details/105093043
版权
本文介绍了朴素贝叶斯算法，包括贝叶斯决策理论、条件概率、全概率公式、贝叶斯推断以及朴素贝叶斯的特点。重点讨论了朴素贝叶斯中的条件独立假设，并解释了拉普拉斯平滑如何解决概率为0的问题，以防止分类错误。
摘要由CSDN通过智能技术生成

本文学习自 https://zhuanlan.zhihu.com/ml-jack

朴素贝叶斯

朴素贝叶斯算法是有监督的学习算法，解决的是分类问题。

1、贝叶斯决策理论

贝叶斯决策理论的核心思想：选择具有最高概率的决策。

2、条件概率

条件概率：在B发生的情况下，A发生的概率 P（A|B）
在这里插入图片描述

3、全概率公式

在这里插入图片描述
因此再代入条件概率公式，得到：
在这里插入图片描述

4、贝叶斯推断

对于条件概率公式：
在这里插入图片描述
P(A)：先验概率（即在B发生之前，就能计

最低0.47元/天 解锁文章
考研想喝奶茶
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
贝叶斯方法与其中的思想
加勒比海鲜王
01-03 803
content连续性随机变量的分布以及概率密度似然函数贝叶斯方法参考资料（强烈推荐最后一个）连续性随机变量的分布以及概率密度连续性随机变量的分布不能像离散型的分布那样去描述。因为这种变量的取值充满一个区间，如果取一个点问他的概率，只能是0。 刻画连续性随机变量的概率分布的一个方法是使用概率密度函数。 - 定义：设连续型随机变量X有概率分布函数F(x)，则F(x)的导数f（x） = F‘(x) 称
朴素贝叶斯算法
ykzcs2000的博客
12-14 1486
在学完判别模型中感知机，逻辑回归，软间隔支持向量机等算法之后我们我们接触到了生成模型中的朴素贝叶斯算法。 从概率分布的角度考虑，对于一堆样本数据，每个均有特征Xi对应分类标记。 生成模型：学习得到联合概率分布P(x,y)，即特征x和标记y共同出现的概率，然后求条件概率分布。能够学习到数据生成的机制。 判别模型：学习得到条件概率分布P(y|x)，即在特征x出现的情况下标记y出现的概率。 数据要求：生成模型需要的数据量比较大，能够较好地估计概率密度；而判别模型对数据样本量的要求没有那么多。 朴素贝叶斯贝叶斯方法
贝叶斯模型核心思想
圣托里尼的日落啊~的博客
06-01 1049
概率图模型(PGM)： LDA(2013) →\rightarrow→ Dynamic Topical Model MMSB(2008) →\rightarrow→ Social Network Neural Network(近期) Inference: MCMC(Markov Chain Montev Carlo) Varational Inference Non-param...
机器学习实战 朴素贝叶斯
weixin_41898948的博客
11-23 206
机器学习实战 朴素贝叶斯 一. 前言 朴素贝叶斯算法是有监督的学习算法，解决的是分类问题，如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立（条件特征独立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响。 二 朴素贝叶斯理论 优点：在数据较少的情况下仍然...
贝叶斯基础理论及思想介绍
乐想屋
12-10 1万+
贝叶斯是机器学习的核心方法之一，贝叶斯方法源于他生前为解决一个“逆概”问题写的一篇文章，而这篇文章是在他死后才由他的一位朋友发表出来的。    在贝叶斯写这篇文章之前，人们已经能够计算“正向概率”，如“假设袋子里面有N个白球，M个黑球，你伸手进去摸一把，摸出黑球的概率是多大”。    而一个自然而然的问题是反过来：“如果我们事先并不知道袋子里面黑白球的比例，而是闭着眼睛摸出一个（或好几个）球，观察
朴素贝叶斯算法学习笔记2
03-23
朴素贝叶斯算法学习笔记2 朴素贝叶斯算法是一种经典的机器学习算法，它的应用范围非常广泛，涵盖了自然语言处理、信息检索、数据挖掘等多个领域。朴素贝叶斯算法的优点是简单、易于实现、计算效率高，且对数据的...
朴素贝叶斯学习笔记文档
08-03
机器学习入门。朴素贝叶斯学习过程中遇到的问题，记录下来，可以说是学习笔记，希望能给大家带来帮助。由于手写难免会有一些错误察觉不到，广泛讨论，共同进步。
朴素贝叶斯算法学习笔记1
03-23
朴素贝叶斯算法学习笔记 一、朴素贝叶斯算法与分类问题 朴素贝叶斯算法是机器学习中的一种常用算法，它的基础是概率问题，分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的...
常见的经典机器学习笔记
最新发布
07-21
【第5讲】 生成学习算法、高斯判别分析、朴素贝叶斯算法 【第6讲】 事件模型、函数间隔与几何间隔 【第7讲】 最优间隔分类器、拉格朗日对偶、支持向量机 【第8讲】 核方法、序列最小优化算法 【第9讲】 经验风险最小...
机器学习课程笔记完整版
05-21
机器学习课程笔记完整版 机器学习 目录 机器学习算法课程定位、目标 定位 课程以算法、案例为驱动的学习，伴随浅显易懂的数学知识 作为人工智能领域(数据挖掘/机器学习方向)的提升课程，掌握更深更有效的解决...
朴素贝叶斯
wuxiaosi808的博客
09-24 288
朴素贝叶斯 优点：在数据较少的情况下仍然有效，可以处理多类别问题； 缺点：对于输入数据的准备方式较为敏感； 使用数据类型：标称型数据。 朴素贝叶斯核心思想是选择具有最高概率的决策。 # -*- coding:utf-8 -*- #使用Python进行文本分类 """ 从文本中构建词向量，将句子转换为向量 """ from numpy import * def loadDataSet(
搞懂朴素贝叶斯分类算法
糖糖糖豆的博客
09-22 5211
转载- 搞懂朴素贝叶斯分类算法带你搞懂朴素贝叶斯分类算 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单，也是常见的一种分类方法。这篇文章我尽可能用直白的话语总结一下我们学习会上讲到的朴素贝叶斯分类算法，希望有利于他人理解。1 分类问题综述对于分类问题，其实谁都不会陌生，日常生活中我们每天都进行着分类过程。例如，当你
机器学习之朴素贝叶斯算法详解
热门推荐
平原的博客
07-05 4万+
1-1 基本流程 朴素贝叶斯公式： P(A|B)=P(A)P(B|A)P(B)P(A|B)=P(A)P(B|A)P(B) P(A|B) = \frac{P(A)P(B|A)}{P(B)} 一、概率基础知识： 条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。 条件概率表示为： P(A|B)， 读作“在B条件下A的概率”。 若只有两个事件A， B， 那么： P(AB)=P...
朴素贝叶斯算法原理讲解
literacy_wang的博客
11-06 1万+
朴素贝叶斯算法原理讲解 1 算法抽象性解释 NaïveBayes算法，又叫朴素贝叶斯算法，是基于贝叶斯定理与特征条件独立假设的分类方法。 名称由来：朴素，即特征条ming件独立；贝叶斯：基于贝叶斯定理。所谓朴素，就是在整个形式化过程中只做最原始的假设。 朴素贝叶斯是贝叶斯决策理论的一部分，关于贝叶斯决策理论解释如下： 实例1： 假设有一个数据集，由两类组成（简化问题），对于每个样本分类都已明确，数据分布如下图： 现在出现一个新的点new_point(x,y)，其分类未知，可用p1(x,y)表示数据点(x
文本分类的基本思想和朴素贝叶斯算法原理
IT之一小佬的博客
04-26 363
文本分类的基本思想和朴素贝叶斯算法原理
机器学习十大算法的核心思想、工作原理、适用 情况及优缺点
小白兔的窝
06-01 3625
机器学习十大算法的每个算法的核心思想、工作原理、适用 情况及优缺点 一、C4.5 算法： ID3 算法是以信息论为基础，以信息熵和信息增益度为衡量标准，从而实现对数据的归纳分类。ID3 算法计算每个属性的信息增益，并选取具有最高增益的属性作为给定的测试属性。 C4.5 算法核心思想是ID3 算法，是ID3 算法的改进，改进方面有： 1）用信息增益率来选择属性，克服了用信息增益选择属性时偏向
机器学习总结（lecture 12）算法：朴素贝叶斯 naive bayes
malele4th
02-22 2601
lecture 12：朴素贝叶斯 naive bayes 目录 lecture 12朴素贝叶斯 naive bayes 目录 1朴素贝叶斯相关的统计学知识 2朴素贝叶斯的模型 3朴素贝叶斯的推断过程 4朴素贝叶斯的参数估计 5总结 6scikit-learn 朴素贝叶斯类库 参考博客：https://www.cnblogs.com/pinard/p/6069267.htm...
机器学习监督学习之分类算法---朴素贝叶斯理论知识
TI__boyue的博客
08-26 1717
感谢Jack-Cui大佬的知识分享 机器学习专栏点击这里 目录感谢Jack-Cui大佬的知识分享
朴素贝叶斯常见问题总结
weixin_43565019的博客
07-19 1367
朴素贝叶斯法是基于贝叶斯定理和特征条件独立假设的分类方法，属于生成模型，即通过训练数据学习联合概率分布P(X,Y),联合分布由条件概率分布P(X|y=ck)和先验概率P(y=ck)估计得来。 思想：后验概率最大化，将数据分到后验概率最大的那一类中。 损失函数：0-1损失 参数估计方法：极大似然估计、贝叶斯估计 原理：这里的期望风险最小化等价于后验概率最大化。 常见的问题总结： 1、需要会后验概率最...
机器学习算法详解：从朴素贝叶斯到GDBT
"北京邮电大学学生整理的机器学习算法笔记，包括朴素贝叶斯、SVM、决策树等多个常用算法的概述与解析。" 在机器学习领域，掌握各种算法的思想是至关重要的。这篇笔记详细梳理了多个常见的机器学习算法，帮助读者...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值