拉普拉斯平滑-My way of ML7.1

最新推荐文章于 2022-03-09 10:29:09 发布
最新推荐文章于 2022-03-09 10:29:09 发布
阅读量290 收藏
点赞数
分类专栏： 机器学习，深度学习，AI
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34788903/article/details/83244078
版权

朴素贝叶斯有一个问题：
某篇文章是娱乐的概率是0这是不合理的，如果词频列表中出现很多次数都是0的话，很可能计算结果都是 0.

解决办法：拉普拉斯平滑

p（Fi|C）=(Ni+alpha)/(N+alpha*m)
alpha是指定的系数一般是1，m是训练文档中统计出来的特征词的个数。

API：sklearn.naive_bayes.MultinomiaLNB(alpha=1.0)默认平滑系数1.0

总结

  • 这个算法不需要调参数
  • 分类效率高，对于缺失数据不敏感，常用于文本分类，分类准确率高
  • 样本关联性较大时效果不好
  • 神经网络CNN（深度学习时更新）效果比朴素贝叶斯效果好

@author：specyue@mail.ustc.edu.cn

SpecYue
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
朴素贝叶斯（二）模型、推导、拉普拉斯平滑
xiaoxiaoliluo917的博客
11-12 486
写给自己：快速过算法的话，朴素贝叶斯算法看 1 朴素贝叶斯模型 定义：基于贝叶斯定理和特征条件独立假设的分类方法。 贝叶斯定理（可以参考我的上篇文章朴素贝叶斯（一）知识准备—条件概率、全概率、贝叶斯公式） 条件独立假设—后面会介绍 贝叶斯模型是通过训练集学习联合分布P（X,Y），从而进一步求解 后验概率P（Y | X） 贝叶斯模型是生成模型。 下面我们先来看变量表示 变量表示 ...
【拉普拉斯平滑系数的介绍】
最新发布
武帝为此的博客
08-23 1496
拉普拉斯平滑系数，也被称为加一平滑，是一种在统计学和概率论中用于平滑概率分布的方法。它主要用于解决在计算机科学和自然语言处理中常见的零概率问题。当一个事件在训练数据中没有出现，导致它的概率为零时，拉普拉斯平滑系数通过在计数上加上一个较小的正数，使得每个事件都有一个非零的概率，从而增加模型的鲁棒性和效率。
机器学习算法 07 —— 朴素贝叶斯算法(拉普拉斯平滑系数、商品评论情感分析案例)
zcy的博客
08-23 7768
文章目录系列文章朴素贝叶斯1 什么朴素贝叶斯分类2 概率复习2.1 朴素贝叶斯2.2 文章分类举例2.3 拉普拉斯平滑系数3 案例：商品评论情感分析4 朴素贝叶斯算法总结4.1 优缺点4.2 内容汇总朴素贝叶斯(NB)原理朴素⻉叶斯朴素在哪⾥？为什么引⼊条件独⽴性假设？在估计条件概率**P(X**∣**Y)**时出现概率为**0**的情况怎么办？为什么属性独⽴性假设在实际情况中很难成⽴，但朴素⻉叶斯仍能取得较好的效果?朴素贝叶斯和逻辑回归(LR)的区别 系列文章 机器学习算法 01 —— K-近邻算法(数
拉普拉斯平滑（Laplacian smoothing）
热门推荐
weixin_43868020的博客
06-07 2万+
概念 零概率问题：在计算事件的概率时，如果某个事件在观察样本库（训练集）中没有出现过，会导致该事件的概率结果是0。这是不合理的，不能因为一个事件没有观察到，就被认为该事件一定不可能发生（即该事件的概率为0）。 拉普拉斯平滑(Laplacian smoothing) 是为了解决零概率的问题。 法国数学家 拉普拉斯 最早提出用 加1 的方法，估计没有出现过的现象的概率。 理论假设：假定训练样本很大时，每个分量x的计数加1造成的估计概率变化可以忽略不计，但可以方便有效的避免零概率问题 具体公式 总结：分子加一
朴素贝叶斯中拉普拉斯平滑算法
皮皮猪的博客
04-17 6396
什么情况下我们会使用拉普拉斯平滑算法？ 当我们在使用朴素贝叶斯算法去解决分类问题时，在训练集上进行训练时我们可以发现有可能出现某些特征的概率P为0的情况，无论是在全文检索中某个字出现的概率，还是在垃圾邮件分类中，这种情况明显是不太合理的，不能因为一个事件没有观察到就武断的认为该事件的概率是0，拉普拉斯的理论支撑而拉布拉斯平滑处理正是处理这种情况下应运而生的。 拉普拉斯平滑处理思想 而我们可以发现如...
koa-router-find-my-way：koa的路由器中间件。 基于find-my-way，一个基于http基的疯狂快速路由器
02-03
考阿路由器找到我的路 用于路由器... 旧版本： koa-router-find-my-way @ 3 => find-my-way @ 2 koa-router-find-my-way @ 2 => find-my-way @ 1基本用法const koaRouter = require ( 'koa-router-find-my-way' ) ;cons
find-my-way：疯狂的快速HTTP路由器
02-03
npm i find-my-way --save 用法 const http = require ( 'http' ) const router = require ( 'find-my-way' ) ( ) router . on ( 'GET' , '/' , ( req , res , params ) => { res . end ( '{"message":
Sapir-On-My-Way:集成运输Android应用程序
05-17
【Sapir-On-My-Way】是一款集成了多种运输方式的Android应用程序，旨在为用户提供便利的出行服务。作为一款学士学位的最终项目，它展示了开发者在Android平台上的编程技能，尤其是对Java语言的掌握。以下是这款应用...
PHP-interview-myway:记录PHP面试包括计算机网路，操作系统，PHP，redis，数据库MySQL（从2019年12月开始）面试了好未来，跟谁学，头条，极客保险，百度文库，百度知道等等公司。持续更新中
05-15
PHP-interview-myway记录PHP面试包括计算机网路，操作系统，PHP，redis，数据库MySQL（从2019年12月开始）面试了好未来，跟谁学，头条，极客保险，百度文库，百度知道等等公司。持续更新中微信号：86938904. 可以多...
the-way-of-making-picture.rar_Making of
09-21
本项目名为"the-way-of-making-picture.rar_Making of"，主要介绍如何使用C#编程语言实现对图片的各种特效处理，如雾化、锐化、光照和百叶窗效果。下面将详细阐述这些知识点及其在实际中的应用。 1. **C#图像处理...
理解拉普拉斯平滑 Laplace Smoothing
weixin_44305332的博客
07-09 1455
平滑技术 平滑技术是为了解决训练集的数据稀松问题。 　　零概率问题，就是在计算实例的概率时，如果某个量x，在观察样本库（训练集）中没有出现过，会导致整个实例的概率结果是0。在文本分类的问题中，当一个词语没有在训练样本中出现，该词语调概率为0，使用连乘计算文本出现概率时也为0。这是不合理的，不能因为一个事件没有观察到就武断的认为该事件的概率是0。 　　一般的m阶马尔科夫链转移概率是这样训练的： Laplace平滑 　　为了解决零概率的问题，法国数学家拉普拉斯最早提出用加1的方法估计没有出现过的现象的概率，所
斯坦福第五章：拉普拉斯平滑处理
welcome to daijiguo's blog
08-16 1万+
拉普拉斯平滑 拉普拉斯平滑（Laplace Smoothing）又被称为加 1 平滑，是比较常用的平滑方法。平滑方法的存在时为了解决零概率问题。 总结：分子加一，分母加K，K代表类别数目。
机器学习的练功方式（六）——朴素贝叶斯
弄鹊
03-09 1606
朴素贝叶斯原理及其代码实现
拉普拉斯平滑处理
122&&113的博客
07-13 750
贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类 贝叶斯定理：P(B∣A)=P(A∣B)P(B)P(A)P(B|A) = \frac{P(A|B)P(B)}{P(A)}P(B∣A)=P(A)P(A∣B)P(B)​ P(A∣B)P(A|B)P(A∣B)表示在B事件已经发生的情况下A事件发生的概率，称为条件概率，P(A∣B)=P(AB)P(B)P(A|B)=\frac{P(AB)}{P(B)}P(A∣B)=P(B)P(AB)​。 朴素贝叶斯思想：对于给出的待分类项，求出在此.
Machine Learning——“朴素“ 贝叶斯算法（分类算法）
weixin_42067873的博客
11-25 2438
朴素贝叶斯的研究流程： 可以看到，整个朴素贝叶斯分类分为三个阶段： 第一阶段——准备工作阶段，这个阶段的任务是为朴素贝叶斯分类做必要的准备，主要工作是根据具体情况确定特征属性，并对每个特征属性进行适当划分，然后由人工对一部分待分类项进行分类，形成训练样本集合。这一阶段的输入是所有待分类数据，输出是特征属性和训练样本。这一阶段是整个朴素贝叶斯分类中唯一需要人工完成的阶段，其质量对整个过程将有重要影响，分类器的质量很大程度上由特征属性、特征属性划分及训练样本质量决定。 第二阶...
机器学习之朴素贝叶斯算法的详解（包含高斯朴素贝特斯、多项式朴素贝叶斯、伯努利朴素贝叶斯，以及相应算法的简单实现）
weixin_40247876的博客
06-02 7161
机器学习18_贝叶斯算法详解（2021.06.02） 一. 朴素贝叶斯算法 为什么需要朴素贝叶斯算法？ 比如说，我们想预测一个人究竟是否能够侥幸在空难中生还，那么我们就需要建立一个分类模型来学习我们的训练集。在训练集中，其中一个人的特征是30岁，男，普通舱，他最终在空难中去世了。训练完成后，当我们使用训练好的模型进行测试的时候，测试的目标的特征也是30岁，男，普通舱，那么我们的模型必然会给这个人打上去世的标签。然而事实却不一定为此，也许这个人正好坐在了离逃生口最近的位置，他得到了第一时间的救治而生存下来了
平滑处理--拉普拉斯（Laplace Smoothing）
叮当了个河蟹
11-24 1万+
拉普拉斯平滑（Laplace Smoothing）又被称为加 1 平滑，是比较常用的平滑方法。平滑方法的存在时为了解决零概率问题。背景:为什么要做平滑处理?  零概率问题，就是在计算实例的概率时，如果某个量x，在观察样本库（训练集）中没有出现过，会导致整个实例的概率结果是0。在文本分类的问题中，当一个词语没有在训练样本中出现，该词语调概率为0，使用连乘计算文本出现概率时也为0。这是不合理的，不能因为
Python scikit-learn，分类，朴素贝叶斯算法，文档分类，MultinomialNB，拉普拉斯平滑系数
houyanhua1的专栏
02-26 2499
朴素贝叶斯预测分类的思想就是根据待预测文档的特征(TF-IDF高的词)分别计算属于各个类别的概率，其中概率最大的类别，就是预测的类别。（朴素的意思就是文档的特征(词)之间相互独立）      朴素贝叶斯进行文档分类的简单案例：     demo.py（朴素贝叶斯算法实例，预测新闻类别）： from sklearn.datasets import fetch_20...
拉普拉斯平滑处理 Laplace Smoothing
weixin_30294295的博客
04-27 1113
背景:为什么要做平滑处理? 　　零概率问题，就是在计算实例的概率时，如果某个量x，在观察样本库（训练集）中没有出现过，会导致整个实例的概率结果是0。在文本分类的问题中，当一个词语没有在训练样本中出现，该词语调概率为0，使用连乘计算文本出现概率时也为0。这是不合理的，不能因为一个事件没有观察到就武断的认为该事件的概率是0。 拉普拉斯的理论支撑 　　为了解决零概率的问题，法国数学家拉普...
介绍Cuckoo-driven Way
05-26
Cuckoo-driven Way是一种基于Cuckoo Hashing算法的散列表技术。Cuckoo Hashing算法是一种高效的散列表算法，它通过两个散列表（或者称为桶）来减少散列冲突。 Cuckoo Hashing算法的基本思想是：使用两个散列表，每个元素在其中一个散列表中占据一个桶，如果在另一个散列表中发现该桶已经被占用，则将该元素插入到该桶所对应的位置，同时将原来占据该位置的元素插入到另一个散列表中。这样，即使散列函数存在冲突，也可以保证元素可以被正确地插入散列表中。 Cuckoo-driven Way则是在Cuckoo Hashing算法的基础上进行了改进，采用了一种更加高效的路由算法，可以更好地处理散列冲突，提高散列表的查询和插入效率。 总体来说，Cuckoo-driven Way是一种高效的散列表技术，可以在大规模数据处理中发挥重要作用，尤其适用于需要高速查询的应用场景。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值