[机器学习]朴素贝叶斯

已于 2024-05-14 19:05:48 修改
阅读量761 收藏 9
点赞数 30
文章标签： 机器学习 人工智能
于 2024-05-14 19:01:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_73531849/article/details/138862885
版权

目录

一、算法概述

  1.1算法简介

  1.2先验概率、条件概率和后验概率

二、算法实现过程 

2.1定义加载数据集函数

2.2计算先验概率

2.3计算条件概率

            2.3.1离散属性的条件概率

            2.3.2连续属性的均值和标准差

            2.3.3连续属性的条件概率

2.4计算后验概率

2.5主函数

三、代码运行及结果分析

3.1总体代码

3.2运行结果测试

3.3实验总结

一、算法概述

  1.1算法简介

      朴素贝叶斯（Naive Bayes）算法是一种基于贝叶斯定理与特征条件独立假设的分类方法。该算法在文本分类、垃圾邮件过滤、情感分析等领域有着广泛的应用。

  1.2先验概率、条件概率和后验概率

先验概率：

在未对模型进行训练前，P(cj)被称为cj的先验概率，

用样例中属于cj的样例数|cj|比上总样例数|D|来近似，即：​

条件概率：

已知两个独立事件A和B，事件B发生的前提下，事件A发生的概率可以表示为P(A|B)，即：

​

其中，事件A与事件B同时发生，表示为P(A,B)或P(AB)。

贝叶斯公式：

​

后验概率：

记P(A)为先验概率，即在B事件发生之前，对A事件概率的一个判断；

P ( A ∣ B ) 称为后验概率，即在B事件发生之后，对A事件概率的重新评估；

二、算法实现过程 

2.1定义加载数据集函数

#dataSet:训练集 testSet:待测集 labels:样本所具有的特征的名称

def loadDataSet():

    dataSet=[['乌黑', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.774, 0.376, '好瓜'],

['乌黑', '蜷缩', '浊响', '清晰', '凹陷', '硬滑', 0.634, 0.264, '好瓜'],

['青绿', '稍蜷', '浊响', '稍糊', '凹陷', '硬滑', 0.639, 0.161, '坏瓜'],

['浅白', '稍蜷', '沉闷', '稍糊', '凹陷', '硬滑', 0.657, 0.198, '坏瓜'],

['乌黑', '稍蜷', '浊响', '清晰', '稍凹', '软粘', 0.360, 0.370, '坏瓜'],

['浅白', '蜷缩', '浊响', '模糊', '平坦', '硬滑', 0.593, 0.042, '坏瓜'],

['青绿', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.608, 0.318, '好瓜'],

['浅白', '蜷缩', '浊响', '清晰', '凹陷', '硬滑', 0.556, 0.215, '好瓜'],

['青绿', '稍蜷', '浊响', '清晰', '稍凹', '软粘', 0.403, 0.237, '好瓜'],

['乌黑', '稍蜷', '浊响', '稍糊', '稍凹', '软粘', 0.481, 0.149, '好瓜'],

['乌黑', '稍蜷', '浊响', '清晰', '稍凹', '硬滑', 0.437, 0.211, '好瓜'],

['乌黑', '稍蜷', '沉闷', '稍糊', '稍凹', '硬滑', 0.666, 0.091, '坏瓜'],

['青绿', '硬挺', '清脆', '清晰', '平坦', '软粘', 0.243, 0.267, '坏瓜'],

['浅白', '硬挺', '清脆', '模糊', '平坦', '硬滑', 0.245, 0.057, '坏瓜'],

['浅白', '蜷缩', '浊响', '模糊', '平坦', '软粘', 0.343, 0.099, '坏瓜'],

['青绿', '蜷缩', '沉闷', '稍糊', '稍凹', '硬滑', 0.719, 0.103, '坏瓜']]



   testSet= ['乌黑', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.774, 0.376] # 待测集
 
   labels = ['色泽', '根蒂', '敲声', '纹理', '脐部', '触感', '密度', '含糖率'] # 特征

   return dataSet, testSet, labels

2.2计算先验概率


计算先验概率,统计数据集中好瓜和坏瓜的个数并计算好瓜和坏瓜的先验概率。

#计算先验概率P(c)
def prior():
    dataSet = loadDataSet()  # 载入数据集
    countG = 0  # 初始化好瓜数量
    countB = 0  # 初始化坏瓜数量
    countAll = len(dataSet)
    for item in dataSet:    # 统计好瓜个数
        if item[-1] == "好瓜":
            countG += 1
    for item in dataSet:    # 统计坏瓜个数
        if item[-1] == "坏瓜":
            countB += 1  
    # 计算先验概率P(c)
    P_G = round(countG/countAll, 3)
    P_B = round(countB/countAll, 3)
    return P_G,P_B

2.3计算条件概率

计算条件概率P(x_{i}|c)

对于离散属性：P(x_{i}|c)=\frac{|D_{c,x_{i}}|}{|D_{c}|}

对于连续属性：P(x_{i}|c)=\frac{1}{\sqrt{2\pi }\sigma _{c,i}}exp(-\frac{(x_{i}-\mu _{c,i})^{2}}{2\sigma _{c,i}^{2}})

2.3.1离散属性的条件概率


通过将训练集中的样本按属性归类，便于计算离散属性的条件概率，代码中通过index实现遍历待测样本特征值的索引位置对应训练样本的索引位置。

#计算离散属性的条件概率P(xi|c)
def P(index, cla):
    dataSet, testSet, labels = loadDataSet()    # 载入数据集
    countG = 0  # 初始化好瓜数量
    countB = 0  # 初始化坏瓜数量
    for item in dataSet:    # 统计好瓜个数
        if item[-1] == "好瓜":
            countG += 1
    for item in dataSet:    # 统计坏瓜个数
        if item[-1] == "坏瓜":
            countB += 1  
    lst = [item for item in dataSet if (item[-1] == cla) & (item[index] == testSet[index])] # lst为cla类中第index个属性上取值为xi的样本组成的集合
    P = round(len(lst)/(countG if cla=="好瓜" else countB), 3)  # 计算条件概率
    return P

 2.3.2连续属性的均值和标准差


根据连续属性的条件概率公式，需提前计算均值和标准差。传入将要计算的均值和标准差的属性名称，使用列表推导式从dataSet中筛选出类别为cla且特征为feature的数据，将这些数据组成一个列表lst。使用numpy库中的mean和std函数计算均值和标准差，其结果保留三位小数。

#计算(不同类别中指定连续特征的)均值、标准差
def mean_std(feature, cla):#feature：传入指定将要计算其均值的标准差的特征名称，cla:计算指定分类cla下该特征的条件概率
    dataSet, testSet, labels = loadDataSet()
    lst = [item[labels.index(feature)] for item in dataSet if item[-1]==cla]  #类别为cla中指定特征feature组成的列表
    mean = round(np.mean(lst), 3)   # 均值
    std = round(np.std(lst), 3)     # 标准差
    return mean, std


 2.3.3连续属性的条件概率


因为西瓜的密度和含糖率属于连续属性，需要通过计算密度和含糖率的均值及标准差，可以进一步计算出好瓜和坏瓜在密度、含糖率属性下的条件概率。

#计算连续属性的条件概率p(xi|c)
def p():
    dataSet, testSet, labels = loadDataSet()    # 载入数据集
    denG_mean, denG_std = mean_std("密度", "好瓜")      # 好瓜密度的均值、标准差
    denB_mean, denB_std = mean_std("密度", "坏瓜")      # 坏瓜密度的均值、标准差
    sugG_mean, sugG_std = mean_std("含糖率", "好瓜")    # 好瓜含糖率的均值、标准差
    sugB_mean, sugB_std = mean_std("含糖率", "坏瓜")    # 坏瓜含糖率的均值、标准差
    # p(密度|好瓜)
    p_density_G = (1/(math.sqrt(2*math.pi)*denG_std))*np.exp(-(((testSet[labels.index("密度")]-denG_mean)**2)/(2*(denG_std**2))))
    p_density_G = round(p_density_G, 3)
    # p(密度|坏瓜)
    p_density_B = (1/(math.sqrt(2*math.pi)*denB_std))*np.exp(-(((testSet[labels.index("密度")]-denB_mean)**2)/(2*(denB_std**2))))
    p_density_B = round(p_density_B, 3)
    # p(含糖率|好瓜)
    p_sugar_G = (1/(math.sqrt(2*math.pi)*sugG_std))*np.exp(-(((testSet[labels.index("含糖率")]-sugG_mean)**2)/(2*(sugG_std**2))))
    p_sugar_G = round(p_sugar_G, 3)
    # p(含糖率|坏瓜)
    p_sugar_B = (1/(math.sqrt(2*math.pi)*sugB_std))*np.exp(-(((testSet[labels.index("含糖率")]-sugB_mean)**2)/(2*(sugB_std**2))))
    p_sugar_B = round(p_sugar_B, 3)
    return p_density_G, p_density_B, p_sugar_G, p_sugar_B

2.4计算后验概率


通过离散属性和连续属性的条件概率和好瓜、坏瓜的先验概率可以计算出后验概率并返回后验概率的值。

#预测后验概率P(c|xi)
def bayes():
    #计算类先验概率
    P_G, P_B = prior()
    #计算离散属性的条件概率

    P0_G = P(0, "好瓜") # P(乌黑|好瓜)
    P0_B = P(0, "坏瓜") # P(乌黑|坏瓜)
    P1_G = P(1, "好瓜") # P(蜷缩|好瓜)
    P1_B = P(1, "坏瓜") # P(蜷缩|坏瓜)
    P2_G = P(2, "好瓜") # P(沉闷|好瓜)
    P2_B = P(2, "坏瓜") # P(沉闷|坏瓜)
    P3_G = P(3, "好瓜") # P(清晰|好瓜)
    P3_B = P(3, "坏瓜") # P(清晰|坏瓜)
    P4_G = P(4, "好瓜") # P(凹陷|好瓜)
    P4_B = P(4, "坏瓜") # P(凹陷|坏瓜)
    P5_G = P(5, "好瓜") # P(硬滑|好瓜)
    P5_B = P(5, "坏瓜") # P(硬滑|坏瓜)


    #计算连续属性的条件概率
    p_density_G, p_density_B, p_sugar_G, p_sugar_B = p()
    #计算后验概率
    isGood = P_G * P0_G * P1_G * P2_G * P3_G * P4_G * P5_G * p_density_G * p_sugar_G    # 计算是好瓜的后验概率
    isBad = P_B * P0_B * P1_B * P2_B * P3_B * P4_B * P5_B * p_density_B * p_sugar_B     # 计算是坏瓜的后验概率
    return isGood,isBad

2.5主函数


通过main函数实现调用，实现朴素贝叶斯分类器对待测集的训练，输出预测结果。

if __name__=='__main__':
    dataSet, testSet, labels = loadDataSet()
    testSet = [testSet]
    df = pd.DataFrame(testSet, columns=labels, index=[1])
    print(f"待测集:\n{df}")
    print("先验概率:")
    P_G, P_B = prior()  
    print("P(好瓜) =", P_G)  
    print("P(坏瓜) =", P_B)
    isGood, isBad = bayes()
    print("后验概率:")
    print(f"P(好瓜|xi) = {isGood}")
    print(f"P(坏瓜|xi) = {isBad}")
    print("预测结果 ： 好瓜" if (isGood > isBad) else "预测结果 ： 坏瓜")

三、代码运行及结果分析

3.1总体代码

import numpy as np
import math
import pandas as pd
 
#加载数据集函数
#dataSet:训练集  testSet:待测集  labels:样本所具有的特征的名称
def loadDataSet():
    dataSet=[['乌黑', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.774, 0.376, '好瓜'],
['乌黑', '蜷缩', '浊响', '清晰', '凹陷', '硬滑', 0.634, 0.264, '好瓜'],
['青绿', '稍蜷', '浊响', '稍糊', '凹陷', '硬滑', 0.639, 0.161, '坏瓜'], 
['浅白', '稍蜷', '沉闷', '稍糊', '凹陷', '硬滑', 0.657, 0.198, '坏瓜'],
['乌黑', '稍蜷', '浊响', '清晰', '稍凹', '软粘', 0.360, 0.370, '坏瓜'],
['浅白', '蜷缩', '浊响', '模糊', '平坦', '硬滑', 0.593, 0.042, '坏瓜'],
['青绿', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.608, 0.318, '好瓜'],
['浅白', '蜷缩', '浊响', '清晰', '凹陷', '硬滑', 0.556, 0.215, '好瓜'], 
['青绿', '稍蜷', '浊响', '清晰', '稍凹', '软粘', 0.403, 0.237, '好瓜'], 
['乌黑', '稍蜷', '浊响', '稍糊', '稍凹', '软粘', 0.481, 0.149, '好瓜'], 
['乌黑', '稍蜷', '浊响', '清晰', '稍凹', '硬滑', 0.437, 0.211, '好瓜'],
['乌黑', '稍蜷', '沉闷', '稍糊', '稍凹', '硬滑', 0.666, 0.091, '坏瓜'],
['青绿', '硬挺', '清脆', '清晰', '平坦', '软粘', 0.243, 0.267, '坏瓜'],
['浅白', '硬挺', '清脆', '模糊', '平坦', '硬滑', 0.245, 0.057, '坏瓜'],
['浅白', '蜷缩', '浊响', '模糊', '平坦', '软粘', 0.343, 0.099, '坏瓜'],
['青绿', '蜷缩', '沉闷', '稍糊', '稍凹', '硬滑', 0.719, 0.103, '坏瓜']]
    
    testSet= ['乌黑', '蜷缩', '沉闷', '清晰', '凹陷', '硬滑', 0.774, 0.376] # 待测集
    labels = ['色泽', '根蒂', '敲声', '纹理', '脐部', '触感', '密度', '含糖率'] # 特征
    return dataSet, testSet, labels

 
#计算先验概率P(c)
def prior():
    dataSet = loadDataSet()[0]  # 载入数据集
    countG = 0  # 初始化好瓜=0
    countB = 0  # 初始化坏瓜=0
    countAll = len(dataSet)
    for item in dataSet:    # 好瓜个数
        if item[-1] == "好瓜":
            countG += 1
    for item in dataSet:    # 坏瓜个数
        if item[-1] == "坏瓜":
            countB += 1  
    # 计算先验概率P(c)
    P_G = round(countG/countAll, 3)
    P_B = round(countB/countAll, 3)
    return P_G,P_B
 
#计算离散属性的条件概率P(xi|c)
def P(index, cla):
    dataSet, testSet, labels = loadDataSet()    # 载入数据集
    countG = 0  # 初始化好瓜数量
    countB = 0  # 初始化坏瓜数量
    for item in dataSet:    # 统计好瓜个数
        if item[-1] == "好瓜":
            countG += 1
    for item in dataSet:    # 统计坏瓜个数
        if item[-1] == "坏瓜":
            countB += 1  
    lst = [item for item in dataSet if (item[-1] == cla) & (item[index] == testSet[index])] # lst为cla类中第index个属性上取值为xi的样本组成的集合
    P = round(len(lst)/(countG if cla=="好瓜" else countB), 3)  # 计算条件概率
    return P
 
 #计算(不同类别中指定连续特征的)均值、标准差
def mean_std(feature, cla):#feature：传入指定将要计算其均值的标准差的特征名称，cla:计算指定分类cla下该特征的条件概率
    dataSet, testSet, labels = loadDataSet()
    lst = [item[labels.index(feature)] for item in dataSet if item[-1]==cla]  #类别为cla中指定特征feature组成的列表
    mean = round(np.mean(lst), 3)   # 均值
    std = round(np.std(lst), 3)     # 标准差
    return mean, std

#计算连续属性的条件概率p(xi|c)
def p():
    dataSet, testSet, labels = loadDataSet()    # 载入数据集
    denG_mean, denG_std = mean_std("密度", "好瓜")      # 好瓜密度的均值、标准差
    denB_mean, denB_std = mean_std("密度", "坏瓜")      # 坏瓜密度的均值、标准差
    sugG_mean, sugG_std = mean_std("含糖率", "好瓜")    # 好瓜含糖率的均值、标准差
    sugB_mean, sugB_std = mean_std("含糖率", "坏瓜")    # 坏瓜含糖率的均值、标准差
    # p(密度|好瓜)
    p_density_G = (1/(math.sqrt(2*math.pi)*denG_std))*np.exp(-(((testSet[labels.index("密度")]-denG_mean)**2)/(2*(denG_std**2))))
    p_density_G = round(p_density_G, 3)
    # p(密度|坏瓜)
    p_density_B = (1/(math.sqrt(2*math.pi)*denB_std))*np.exp(-(((testSet[labels.index("密度")]-denB_mean)**2)/(2*(denB_std**2))))
    p_density_B = round(p_density_B, 3)
    # p(含糖率|好瓜)
    p_sugar_G = (1/(math.sqrt(2*math.pi)*sugG_std))*np.exp(-(((testSet[labels.index("含糖率")]-sugG_mean)**2)/(2*(sugG_std**2))))
    p_sugar_G = round(p_sugar_G, 3)
    # p(含糖率|坏瓜)
    p_sugar_B = (1/(math.sqrt(2*math.pi)*sugB_std))*np.exp(-(((testSet[labels.index("含糖率")]-sugB_mean)**2)/(2*(sugB_std**2))))
    p_sugar_B = round(p_sugar_B, 3)
    return p_density_G, p_density_B, p_sugar_G, p_sugar_B
 


#预测后验概率P(c|xi)
def bayes():
    #计算类先验概率
    P_G, P_B = prior()
    #计算离散属性的条件概率
    P0_G = P(0, "好瓜") # P(乌黑|好瓜)
    P0_B = P(0, "坏瓜") # P(乌黑|坏瓜)
    P1_G = P(1, "好瓜") # P(蜷缩|好瓜)
    P1_B = P(1, "坏瓜") # P(蜷缩|坏瓜)
    P2_G = P(2, "好瓜") # P(沉闷|好瓜)
    P2_B = P(2, "坏瓜") # P(沉闷|坏瓜)
    P3_G = P(3, "好瓜") # P(清晰|好瓜)
    P3_B = P(3, "坏瓜") # P(清晰|坏瓜)
    P4_G = P(4, "好瓜") # P(凹陷|好瓜)
    P4_B = P(4, "坏瓜") # P(凹陷|坏瓜)
    P5_G = P(5, "好瓜") # P(硬滑|好瓜)
    P5_B = P(5, "坏瓜") # P(硬滑|坏瓜)
    #计算连续属性的条件概率
    p_density_G, p_density_B, p_sugar_G, p_sugar_B = p()
    #计算后验概率
    isGood = P_G * P0_G * P1_G * P2_G * P3_G * P4_G * P5_G * p_density_G * p_sugar_G    # 计算是好瓜的后验概率
    isBad = P_B * P0_B * P1_B * P2_B * P3_B * P4_B * P5_B * p_density_B * p_sugar_B     # 计算是坏瓜的后验概率
    return isGood,isBad
 
if __name__=='__main__':
    dataSet, testSet, labels = loadDataSet()
    testSet = [testSet]
    df = pd.DataFrame(testSet, columns=labels, index=[1])
    print(f"待测集:\n{df}")
    print("先验概率:")
    P_G, P_B = prior()  
    print("P(好瓜) =", P_G)  
    print("P(坏瓜) =", P_B)
    isGood, isBad = bayes()
    print("后验概率:")
    print(f"P(好瓜|xi) = {isGood}")
    print(f"P(坏瓜|xi) = {isBad}")
    print("预测结果 ： 好瓜" if (isGood > isBad) else "预测结果 ： 坏瓜")

3.2运行结果测试

3.3实验总结

    在本次贝叶斯分类器实验中，我深入了解了贝叶斯分类器的基本原理和实现方法。实验主要围绕贝叶斯公式和贝叶斯决策理论展开，通过实际的数据集进行训练和分类，验证了贝叶斯分类器的有效性。



 

可你不堪一ji
关注
数据分析--朴素贝叶斯对文档分类
huzai9527的博客
03-10 618
朴素贝叶斯 一、概念 先验概率： 通过经验来判断事物发生的概率 后验概率： 结果已经有了，推测原因的概率 - 条件概率： p(A|B) 事件A在事件B已经发生的情况下发生的概率 似然函数： 用来衡量概率模型的参数 二、朴素贝叶斯公式理解 - 公式 对于公式的理解 ： 公式左边是我们通过特征A出现，推断它属于Bi的概率 公式右边分子是分类Bi在所有类别的概率*分类Bi中A出现的概率 公式右边...
机器学习——朴素贝叶斯算法（转载自知乎）
小唐要努力的博客
11-21 968
本文仅用于学习交流，原文链接https://zhuanlan.zhihu.com/p/26262151 如有侵权请联系删除~ 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单，也是常见的一种分类方法。这篇文章我尽可能用直白的话语总结一下我们学习会上讲到的朴素贝叶斯分类算法，希望有利于他人理解。 分类问题综述 对于分类问题，其实谁都不会陌生，日常生活中我们每天都进行着分类过程。例如，当你看到一个人，你的脑子下意识判断...
机器学习-朴素贝叶斯实例分析- 文本分析
jack339083590的博客
01-22 591
转载地址：http://blog.csdn.net/dream_angel_z/article/details/46312319 本节主要给出一个朴素贝叶斯的实例。 引文：由于之前讲过了朴素贝叶斯的理论Stanford机器学习[第五讲]-生成学习算法第四部分，同时朴素贝叶斯的算法实现也讲过了，见机器学习算法-朴素贝叶斯Python实现。那么这节课打算讲解一下朴素贝叶斯算
贝叶斯数据分析_朴素贝叶斯与数据分析
weixin_39845113的博客
12-13 213
最近在做广告渠道的数据分析项目，对广告数据分析方面的资料接触得颇多，我感叹于概率统计学的强大，业务中的众多数据问题，都可追溯至某个概率统计公式。不是985 211毕业的我，达不到知乎的平均智商水平，但却是一枚对数据分析颇感兴趣的数据分析师，随着工作经历的丰富，视数据分析为艺术，愿意将每周发生的数据分析相关的内容分享出来，试着做一个摆渡人。来说下朴素贝叶斯公式，也即条件概率公式P(Y|X)=P(X|...
机器学习--朴素贝叶斯的分析与实现
我的英文站点：https://iorilan.medium.com/
06-03 2080
机器学习--朴素贝叶斯的分析与实现
中文文本分类传统机器学习朴素贝叶斯 逻辑斯蒂回归 lightGBM源码+说明.zip
05-05
目录及文件说明 bert_pretrain存放bert预训练的参数及模型 models存放深度学习对应的模型定义 News文件夹存放中文文本...使用了三种传统机器学习方法 朴素贝叶斯 逻辑斯蒂回归 lightGBM 各方法定义见对应的py文件
R语言与机器学习朴素贝叶斯.pdf
最新发布
11-06
R语言与机器学习朴素贝叶斯
基于Python机器学习朴素贝叶斯的语音性别识别及分类器比较源码+详细部署文档+全部数据资料（高分项目）.zip
04-22
基于Python机器学习朴素贝叶斯的语音性别识别及分类器比较源码+详细部署文档+全部数据资料（高分项目）.zip基于Python机器学习朴素贝叶斯的语音性别识别及分类器比较源码+详细部署文档+全部数据资料（高分项目）.zip...
机器学习 朴素贝叶斯与贝叶斯网络
weixin_46131409的博客
08-02 1778
一.朴素贝叶斯 1.概述 (1)假设: ①特征独立性:每个特征出现的概率与其他特征独立 ②特征均衡性:每个特征都同等重要 2.实例: 假设已经有1000封被标记好了(c1c_1c1​表示垃圾邮件,c2c_2c2​表示非垃圾邮件)的邮件,要求识别第1001封邮件是否为垃圾邮件.首先构建词汇表,设其中的单词数为N=nN=nN=n.将第邮件mmm映射到nnn维向量xmx_mxm​m→xm=(x1m,x2m...xnm)xim={1 if 单词wi在m中出现过0 otherwisem→x_m=(x_{1m},x
朴素贝叶斯 
weixin_45620071的博客
03-12 344
朴素贝叶斯 应用场景：源于推理的需要，例如：通过商品的描述（特征X）来推理商品的类别（Y）。 “朴素”：特征与特征之间是独立的，互不干扰。如果特征比较多时，往往独立性的条件不重要（互相抵消），可以用朴素贝叶斯。 训练的时候：得出条件概率表 推理的时候：比较条件概率的大小 特点：训练容易，推理难 搜索公共号“数据统计分析与挖掘” 或扫描二维码，在公众号中回复“资源”，获取所需资源。...
机器学习基础-朴素贝叶斯算法解析
josh的博客
05-05 672
文章目录1 相关概念（生成模型、判别模型)2 先验概率、条件概率3 贝叶斯决策理论4 贝叶斯定理公式5 极值问题情况下的每个类的分类概率6 下溢问题如何解决7 零概率问题如何解决？8 优缺点9 sklearn参数详解，Python绘制决策树 1 相关概念（生成模型、判别模型) 生成模型：在概率统计理论中, 生成模型是指能够随机生成观测数据的模型，尤其是在给定某些隐含参数的条件下。它给观测值和标注数...
基于朴素贝叶斯+Python实现垃圾邮件分类和结果分析
Galoa的博客
03-23 1万+
基于朴素贝叶斯+Python实现垃圾邮件分类 朴素贝叶斯原理 请参考： 贝叶斯推断及其互联网应用（二）：过滤垃圾邮件 Python实现 源代码主干来自： python实现贝叶斯推断——垃圾邮件分类 我只是加了注释，然后做了对结果的分析统计的输出添加。 源码下载： GitHub：下载NaiveBayesEmail.py 本文原载： 基于朴素贝叶斯+Python实现垃圾邮件分类 ...
【python数据挖掘课程】二十一.朴素贝叶斯分类器详解及中文文本舆情分析
热门推荐
杨秀璋的专栏
01-24 1万+
这是《Python数据挖掘课程》系列文章，也是我上课内容及书籍中的一个案例。本文主要讲述朴素贝叶斯分类算法并实现中文数据集的舆情分析案例，希望这篇文章对大家有所帮助，提供些思路。内容包括： 1.朴素贝叶斯数学原理知识 2.naive_bayes用法及简单案例 3.中文文本数据集预处理 4.朴素贝叶斯中文文本舆情分析本篇文章为基础性文章，希望对你有所帮助，如果文章中存在错误或
朴素贝叶斯分类（学习笔记）
weixin_44298133的博客
05-20 690
先验概率：通过经验来判断事情发生的概率 后验概率：发生结果后，推测原因的概率 条件概率：事件A在另外一个事件B已经发生条件下的发生概率 似然函数：把概率模型的训练过程理解为求参数估计的过程。 朴素贝叶斯是一种简单但极为强大的预测建模算法。 朴素贝叶斯模型由两种类型的概率组成： 每个类别的概率P(Cj)； 每个属性的条件概率P(Ai|Cj)。 朴素贝叶斯分类最适合的场景是文本分类、情感分类和垃圾邮件识别。 sklearn 机器学习包 sklearn 的全称叫 Scikit-learn，提供了 3 个朴素贝
朴素贝叶斯算法分析
u013982921的专栏
07-29 1491
这两天开始学习朴素贝叶斯算法，下面开始写一些自己查阅资料的总结 1、分类问题概述        在介绍朴素贝叶斯算法前，我们先简单了解下分类问题，因为朴素贝叶斯是分类算法中的一种。 定义：给定一个对象X，将其划分到预定义好的某一个类别Yi中 ---输入：X ---输出：Y(取值于有限集合{y1,y2,......,yn}) 应用：人群，新闻分类，query分类，商品分类，网页分类，垃圾...
【机器学习】朴素贝叶斯算法分析
AI启蒙研究院
12-27 1637
AI系列四，今天还是比较枯燥的基础知识讲解。本文将简单介绍在机器学习领域广为使用的朴素贝叶斯算法及其简单实现，属于较为基础普及，高手慎入。目录托马斯·贝叶斯（Thomas Bayes）条件概率条件概率定义链式法则贝叶斯公式离散型连续型贝叶斯概率论主观概率论贝叶斯概率论意义朴素贝叶斯（Naive Bayesian）工作流程机器学习中应用小结1托马斯·贝叶斯（Thomas Bayes）托马斯·贝叶斯（
朴素贝叶斯课程报告
qq_34034442的博客
07-11 3125
KNN、朴素贝叶斯、决策树课程报告概述本次实验主要测试了KNN、朴素贝叶斯、决策树在不同变量约束下对同一文本集进行情感分析预测。首先通过Python自然语言处理库ntlk对文本特征进行调优，之后分析该数据特性排除了决策树的使用并对KNN与朴素贝叶斯算法根据此数据集进行参数调优，最后通过最优参数对此两种算法进行了实验性对比，得出了当前文本分析问题上朴素贝叶斯算法的准确度相较于KNN更好的结论，并且在...
机器学习-朴素贝叶斯实例分析
D.W 的专栏
06-01 2861
引文：由于之前讲过了朴素贝叶斯的理论Stanford机器学习[第五讲]-生成学习算法第四部分，同时朴素贝叶斯的算法实现也讲过了，见机器学习算法-朴素贝叶斯Python实现。那么这节课打算讲解一下朴素贝叶斯算法的具体计算流程，通过一个具体的实例来讲解。PS：为了专注于某一个细节，本章节只抽取了视频的一部分来讲解，只讲解一个贝叶斯算法的计算流程，关于视频里面的具体内容请参考下面的视频链接。讲解的实例是一
朴素贝叶斯模型简单理解
Stray_Lambs的博客
10-25 3050
小白一个，如果有问题欢迎大家指正。 朴素贝叶斯法 朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入\输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。这里可以举个例子，就好比医生在帮病人看病的时候，病人手里的化验单以及各种检测证明(假设证明之间相互独立)，就是特征条件，医生就好比是一个分类器，输入了一堆特征条件x，然后进行判断病人具体得的是什么病也就是P(y|x)概率最大的那个，并且这个..
机器学习 朴素贝叶斯 numpy
09-19
综上所述，机器学习通过算法使得计算机能够从数据中学习并做出预测或者决策，朴素贝叶斯是其中的一种常见的分类算法，而numpy库则提供了丰富的矩阵运算和数值计算函数，可以在机器学习中应用得到。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值