Naive Bayesian

最新推荐文章于 2023-10-30 15:01:20 发布
最新推荐文章于 2023-10-30 15:01:20 发布
阅读量167 收藏
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/heatrain/article/details/104812136
版权

朴素贝叶斯简单来说就是以贝叶斯原理为基础的根据先验概率计算出后验概率，然后选择概率较大的那一类作为分类结果的方法。

假设有样本数据集D={d1,d2,…,dn}，样本对应的特征属性集为X={x1,x2,…,xd}，类别变量为Y={y1,y2,…,ym}，那么给出X的时候，如何估计类别变量Y呢

根据贝叶斯定理，有

其中P(Y)称为先验概率，P(Y|X)称为后验概率，P(X|Y)/P(X)称为可能性函数

这时，再假设特征各特征之间互相独立(朴素思想的体现)，根据全概率公式，类别为yi的概率为

举一个来自于https://www.bilibili.com/video/av36338359?from=search&seid=7919712705936593079的例子

根据上面的公式

根据上表

以上是针对特征为离散变量的情况，特征为连续变量时，可以使用高斯分布对其概率密度进行估计，即假设连续变量服从高斯分布

比如，给男生加一个经济收入这一项

其他条件不变，如果某男生(帅，性格不好，不上进，经济收入4k)，则嫁里面经济收入均值为4.8，标准差假设为2，则可以计算出

P(收入=4k|嫁)

同理，可以计算出

P(收入=4k|不嫁)

即可以得出最终结果

 

 

鱼只
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
数据回归算法 | 贝叶斯Ridge回归
天天酷科研的博客
10-28 201
数据回归算法 | 贝叶斯Ridge回归
贝叶斯岭回归（BayesianRidge）、自动关联决策回归、高斯过程、核函数、及高斯回归、高斯过程分类
data+scenario+science+insight
06-30 2127
贝叶斯岭回归（BayesianRidge）、自动关联决策回归、高斯过程、核函数、及高斯回归、高斯过程分类 目录 贝叶斯岭回归（BayesianRidge）、自动关联决策回归、高斯过程、核函数、及高斯回归、高斯过程分类 贝叶斯岭回归（BayesianRidge） 自动关联决策回归 高斯过程、核函数、及高斯回归 高斯过程分类 贝叶斯岭回归（BayesianRidge） 如果我们的数据有很多缺失或者矛盾的病态数据，可以考虑贝叶斯岭回归（BayesianRidge），它对病态数据鲁棒性很高，也不用交
秒懂算法 | 回归算法中的贝叶斯
m0_73510550的博客
06-07 987
在本文中，我们会用概率的观点来看待机器学习模型，用简单的例子帮助大家理解判别式模型和生成式模型的区别。通过思考曲线拟合的问题，发现习以为常的损失函数和正则化项背后有着深刻的意义。
Python实现贝叶斯岭回归模型(BayesianRidge算法)并使用K折交叉验证进行模型评估项目实战
胖哥真不错的博客
06-29 4393
Python实现贝叶斯岭回归模型(BayesianRidge算法)并使用K折交叉验证进行模型评估项目实战
机器学习-（手推）线性回归3-正则化-岭回归（Ridge）-频率角度&贝叶斯角度
weixin_42133768的博客
11-28 762
线性回归之正则化-岭回归（Ridge）-频率角度&贝叶斯角度
Naive Bayes（朴素贝叶斯）
假装有标题
11-23 2万+
朴素贝叶斯的概念介绍以及参数估计
机器学习之朴素贝叶斯：Naive Bayesian（一、算法原理）
梅菜扣肉
07-09 520
一、概率论基础
Python实现朴素贝叶斯（Naive Bayesian algorithm）
BIG_Ribbit的博客
01-05 2028
前言 本文使用Python实现了Naive Bayesian分类算法，但只适用于连续性特征值，以后有时间再将离散型的进行补充。此外，对于连续性特征值，本文处理的方式是假设这些特征值服从正态分布，计算每一列特征值的均值和方差，从而得到他们的正态分布概率密度，通过概率密度就可以大致计算每个值对应的条件概率，然后就能得到数据成为某个标签的概率，然后选择对应概率最大的那个标签作为分类结果。本文使用的数据集为iris。 1. 导入所需包 import pandas as pd import numpy as np f
Naive Bayesian for Text Classification (MLE, Gaussian Naive Bayesian)
sesiria的博客
10-07 468
The Naive Bayesian is a baseline for text classification problem. A spam email example. We need to count the frequency of words which occurs in the span/normal email. Such as, ad., purchase, link...
朴素贝叶斯模型（NAIVE BAYESIAN MODEL)
weixin_41690708的博客
07-15 3524
朴素贝叶斯方法是在贝叶斯算法的基础上进行了相应的简化，即假定给定目标值时属性之间相互条件独立。也就是说没有哪个属性变量对于决策结果来说占有着较大的比重，也没有哪个属性变量对于决策结果占有着较小的比重。虽然这个简化方式在一定程度上降低了贝叶斯分类算法的分类效果，但是在实际的应用场景中，极大地简化了贝叶斯方法的复杂性。 数学基础公式知识总结： 先验概率P(A)：在不考虑任何情况下，A事件发生...
朴素贝叶斯分类算法（Naive Bayesian classification）
向往未来
11-29 1万+
朴素贝叶斯分类算法（Naive Bayesian classification） PS：本文在讲解的时候会用通俗的例子来讲解 本文我们将学习到： （1）什么是朴素贝叶斯？ （2）先验概率和条件概率是如何证明的？ （3）文本分类的多项式模型和伯努利模型（附加例子说明） （4）垃圾邮件的分类及代码的演示（暂缺以后会补上） （1）什么
贝叶斯线性回归(Bayesian Linear Regression)
热门推荐
DarkScope从这里开始
01-31 4万+
mlapp看到了第七章，跳了第六章没看，第七章主要是讲线性回归的，前面首先是最朴素的线性回归，接着是ridge线性回归(其实就是带惩罚参数的回归)，然后就是本文要总结的贝叶斯线性回归。把prml和mlapp综合起来看了，效果还不错，有些东西互有详略，可以互做补充。 1.引入      贝叶斯线性回归的引入主要是在最大似然估计中很难决定模型的复杂程度，ridge回归加入的惩罚参数其实也是解决这个
专治机器学习面试：机器学习各个算法的优缺点！
m0_59596937的博客
09-19 1134
今天介绍了 算法 的一些核心的优缺点。另外，更多展现方式以及使用技巧可以从官方文档获取以及实战中领略！喜欢的朋友可以起来！
R语言学习笔记 06 岭回归、lasso回归
雁山月
05-07 6510
比较lm.ridge和glmnet函数。 画岭迹图《统计学习导论 基于R语言的应用》图6-4 6-6。 论文复刻《基于岭回归和LASSO回归...安徽省财政收入影响因素分析_朱海龙》。
【Python机器学习】零基础掌握BayesianRidge贝叶斯回归
最新发布
Mr数据杨
10-30 469
本次文章主要介绍了贝叶斯岭回归算法，该算法能够根据电动车充电站的多个特性（如站点面积、附近电动车数量、交通便利度等）进行使用频率的预测。这样可以有效地优化充电站的位置布局，以提高运营效率。优点总结，该算法具有较高的预测准确性，并且能适应多种应用场景。优点名称描述说明预测准确性高与实际值相近，提供了可靠的决策依据适应性强可用于多个领域和不同类型的数据集可解释性好易于理解模型输出和做出决策缺点总结，虽然该算法具有多方面的优点，但在处理大规模数据时可能会面临计算效率低的问题。缺点名称描述说明。
Skleran-线性模型-贝叶斯回归(BayesianRidge)
LaoChen_ZeroonE
06-28 1万+
贝叶斯回归sklearn.linear_model.BayesianRidgesklearn.linear_model.ARDRegression 贝叶斯回归 sklearn.linear_model.BayesianRidge class sklearn.linear_model.BayesianRidge(*, n_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, alpha_in.
正则化与数据先验分布的关系
开飞机的小毛驴儿
05-31 3329
转载自知乎：https://www.zhihu.com/question/23536142 先抛给大家一个结论：从贝叶斯的角度来看，正则化等价于对模型参数引入 先验分布 。 一. Linear Regression 我们先看下最原始的Linear Regression: <img src="https://pic2.zhimg.com/c24e0befa5ee8a84de2
L1、L2+回归模型（lasso、ridge、elasticnet）
chocolate_chuqi的博客
08-02 4831
嵌入式选择 有没有可能将特征选择过程与学习器训练过程融为一体。 以前我们设计学习器是希望均方误差达到最小值----min E(x;w) 但是如果我们希望把不需要的特征变为0呢？ 我们可以把 但是这是一个NP-hard问题。（NP-HARD问题可以理解为容易算出任何一种情况的结果值，但是要计算所有结果值然后统计出最小最大值会很难。）   所以怎么办呢？ 两个办法，办法一：   ...
create a new lable sentiment which equals to 1 if star > 3, otherwise sentiment equals to 0. Then develop prediciton model for sentiment. * split the dataset to use 80% of the data for training and 20% for test. * train a model to make prediciton of the comments in test dataset, please improve the accuracy as high as possible I list some steps as follows. Please feel free to work in your own way. ### * load the data (encoding='gb18030') * make new label sentiment * tokenize the Chinese comments * split the dataset for train and test * train a model to predict sentiment. Naive bayesian model is just one option, if you have a better one, try it. * test the trained model using test dataset, print the accuracy. Some tools may be helpful for you ### * jieba * apply * train_test_split * CountVectorizer * MultinomialNB * pipeline * accuracy_score
05-31
Sure, here's how you can perform sentiment analysis of restaurant comments with the steps you mentioned: ```python import pandas as pd import jieba from sklearn.model_selection import train_test_split from sklearn.feature_extraction.text import CountVectorizer from sklearn.naive_bayes import MultinomialNB from sklearn.pipeline import Pipeline from sklearn.metrics import accuracy_score # Load the data df = pd.read_csv('restaurant_comments.csv', encoding='gb18030') # Create the sentiment label df['sentiment'] = df['star'].apply(lambda x: 1 if x > 3 else 0) # Tokenize the Chinese comments df['comments'] = df['comments'].apply(lambda x: ' '.join(jieba.cut(x))) # Split the dataset into training and test sets X_train, X_test, y_train, y_test = train_test_split(df['comments'], df['sentiment'], test_size=0.2) # Create a pipeline with CountVectorizer and MultinomialNB pipeline = Pipeline([ ('vectorizer', CountVectorizer()), ('classifier', MultinomialNB()) ]) # Train the model pipeline.fit(X_train, y_train) # Test the trained model using test dataset and print the accuracy y_pred = pipeline.predict(X_test) accuracy = accuracy_score(y_test, y_pred) print('Accuracy:', accuracy) ``` In this code, we first load the data using pandas with encoding='gb18030'. Then we create the sentiment label based on the 'star' column. We tokenize the Chinese comments using jieba, split the dataset into training and test sets using train_test_split from sklearn. We then create a pipeline with CountVectorizer and MultinomialNB. We fit the pipeline on the training data and test the trained model using test dataset. Finally, we print the accuracy score of the model using accuracy_score from sklearn. You can try other models as well and tune the hyperparameters to improve the accuracy.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值