监督学习:朴素贝叶斯

朴素贝叶斯分类器的推导
摘要由CSDN通过智能技术生成

概述

      作为一种分类算法,生成方法朴素贝叶斯与判别方法思路是不一样的。简单地理解,朴素贝叶斯首先找到特征X和输出Y的联合概率P(X,Y),接着根据贝叶斯公式P(Y|X)=\frac{P(X,Y)}{P(X)}求得预测类别。

      贝叶斯方法的思想可以概括为:数据+先验概率=后验概率。后验概率是我们要得到的概率分布。 而在此基础上,朴素贝叶斯有一个“朴素”、简单的假设,即认为各个特征是条件独立的,这是一个较强的假设,但是在实际较复杂的场景中也能取得较好的结果。

      由于自己此前对这一块知识的理解一直不够透彻,想在这里尽量详细地推导一下朴素贝叶斯分类器的原理。为了更好地理解,先捋一下全概率公式和贝叶斯公式这些先验知识,最后给出朴素贝叶斯分类器的目标函数。


一、全概率公式

      设事件Y_{1},Y_{2},...,Y_{K}是样本空间的一个完备事件组(即两两之间互不相交,且并集是全集),且P(Y_{k})> 0 (k=1,2,...,K)。那么任意一个事件X可以根据Y_{k}进行分割,如下图所示:

       事件X发生的概率表示为:

P(X)=P(XY_{1})+P(XY_{2})+..+P(XY_{K})

       由条件概率公式可以知道,

P(XY_{1})=P(X)P(Y_{1}|X) =P(Y_{1})P(X|Y_{1})

      因此事件X发生的概率写为下式

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值