朴素贝叶斯分类器的前提是贝叶斯原理,因为它的分类思想真的很朴素,就是简单的比较条件概率的大小,所以被称为“朴素”贝叶斯。
首先,介绍一下贝叶斯原理,学习过概率论的对这个公式可能并不陌生,贝叶斯原理是建立在条件概率的基础上的,已知某条件概率,如何得到两个事件交换后的概率,也就是在已知P(A|B)的情况下如何求得P(B|A)。
已知某条件概率P(A|B),表示在B已经发生的前提下,A发生的概率。也就是已知P(A|B),求P(B|A)。其基本求解公式是:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
P(A|B)=\frac{P(AB)}{P(B)}
P(A∣B)=P(B)P(AB)
那么,
P
(
B
∣
A
)
=
P
(
A
∣
B
)
P
(
B
)
P
(
A
)
P(B|A)=\frac{P(A|B)P(B)}{P(A)}
P(B∣A)=P(A)P(A∣B)P(B)
这是讲的最简单的只有两件事相关的情况下的条件概率计算方法,如果总共有n种情况会发生,计算某一件事的条件概率,即在另外n-1种情况发生的前提下,该事情发生的概率:
P
(
A
i
∣
)
P(A_i|)
P(Ai∣)
这个定理解决了现实生活里经常遇到的问题:已知某条件概率,如何得到两个事件交换后的概率,也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率:
表示事件B已经发生的前提下,事件A发生的概率,叫做事件B发生下事件A的条件概率。其基本求解公式为:。
下面不加证明地直接给出贝叶斯定理: