朴素贝叶斯，难？一文让你清楚理解贝叶斯原理

最新推荐文章于 2022-10-11 19:30:00 发布

刘大望

最新推荐文章于 2022-10-11 19:30:00 发布

阅读量1.1k

点赞数 1

分类专栏： python 机器学习

本文链接：https://blog.csdn.net/qq_29407397/article/details/89469970

版权

机器学习同时被 2 个专栏收录

6 篇文章 6 订阅

订阅专栏

python

2 篇文章 0 订阅

订阅专栏

题外话：

充分条件和必要条件

天下雨→地湿，地湿 $\nrightarrow$ 天下雨（有可能是自己泼的水造成地湿了），天下雨是充分条件
阳光充足 $\nrightarrow$ 花长得好，阳光充足 $\leftarrow$ 花长得好阳光充足是必要条件

预备知识：

概率：P（A）代表A事件发生的概率
条件概率： $P(A|B)=\frac{P(A\cap B)}{P(B)}$ 代表在B事件发生的情况下A事件发生的概率
贝叶斯公式： $P(A|B)=\frac{P(B|A)*P(A)}{P(B)}$ （下面有推导过程）

以考试前两天是否喝酒（ $x_{1}$ ）、是否逛街（ $x_{2}$ ）、是否学习（ $x_{3}$ ）预测是否挂科（y）为例.其中 $x_{1}$ =0,代表没有喝酒， $x_{1}$ =1代表喝酒。 $x_{2}$ =0代表没有逛街， $x_{2}$ =1代表逛街。 $x_{3}$ =0代表没有学习， $x_{3}$ 代表学习了。

样本
序号	考挂(y)	喝酒( $x_{1}$ )	逛街( $x_{2}$ )	学习( $x_{3}$ )
1	1	1	1	0
2	0	0	0	1
3	0	1	0	1
4	1	1	0	0
5	1	0	1	0
6	0	0	1	1
7	0	0	1	0
8	1	0	0	1

根据上面样本做下面的计算

简单计算概率（热身运动）：

$P(y=1)=\frac{4}{8}$ ,挂科的概率

$P(y=0)=\frac{4}{8}$ ,不挂科的概率

$P(x_{1}=0)=\frac{3}{8}$ ,喝酒的概率

$P(y=1 \cap x_{1}=1)=\frac{2}{8}$ ,喝酒并且挂科的概率

$P(y=1 \cap x_{3}=1)=\frac{1}{8}$ ，学习并且挂科的概率

是不是身体热起来了~~~~~~~~~~~~~~~

条件概率：

条件概率的定义不懂得自行百度啊（我是表情符号）

$P(y=1|x_{1}=1)=\frac{P(y=1\cap x_{1}=1)}{P(x_{1}=1)}=\frac{2}{3}$

$P(y=1|x_{2}=1)=\frac{P(y=1\cap x_{2}=1)}{P(x_{2}=1)}=\frac{2}{4}$

贝叶斯公式

根据条件概率公式

$P(A|B)=\frac{P(A\cap B)}{P(B)}$ （1）

$P(B|A)=\frac{P(B\cap A)}{P(A)}$ （2）

联立（1）,（2）可得

$P(A|B)=\frac{P(B|A)*P(A)}{P(B)}$

贝叶斯公式应用

贝叶斯公式来用于分类器

假如你有一个样本， $x_{1}=0,x_{2}=0,x_{3}=1$ ,我们来预测下是否挂科。请看官往下看~~

又是预备知识: $P(x_{1},x_{2},x_{3}|y)=P(x_{1}|y)*P(x_{2}|y)*P(x_{3}|y)$

首先计算挂科的概率

$P(y=1|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=1)*P(y=1)}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=1)=P(x_{1}=0|y=1)*P(x_{2}=0|y=1)*P(x_{3}=1|y=1)*P(y=1)=\frac{2}{4}*\frac{2}{4}*\frac{1}{4}*\frac{1}{2}=\frac{4}{128}$ （1）

然后计算不挂科的概率

$P(y=0|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=0)*P(y=0)}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=0)=P(x_{1}=0|y=0)*P(x_{2}=0|y=0)*P(x_{3}=1|y=0)*P(y=0)=\frac{18}{128}$ （2）

（1）的概率小于（2），经过计算（1），（2）的概率我们判断不喝酒，不逛街，学习 $x_{1}=0,x_{2}=0,x_{3}=1$ 那么他不会挂科（还是不能浪~~哈）

刘大望

关注

1
点赞
踩
4

收藏

觉得还不错? 一键收藏
打赏
1
评论
朴素贝叶斯，难？一文让你清楚理解贝叶斯原理

目录题外话：预备知识：简单计算概率（热身运动）：条件概率：贝叶斯公式贝叶斯公式应用题外话：充分条件和必要条件天下雨→地湿，地湿天下雨（有可能是自己泼的水造成地湿了），天下雨是充分条件阳光充足花长得好，阳光充足花长得好阳光充足是必要条件预备知识：概率：P（A）代表A事件发生的概率条件概率：代表在B事件发生的情况下A事件发生的概...
复制链接

扫一扫