朴素贝叶斯

贝叶斯

贝叶斯原理与其他统计学推断方法截然不同，它是建立在主观判断的基础上：在我们不了解所有客观事实的情况下，同样可以先估计一个值，然后根据实际结果不断进行修正。

// 统计学
 比如， **已知客观存在一个袋子里5个球， 3个黑球，2个白球**，随便从里面拿出一个，问，是黑球的概率？。 这时候，立即答：3/5。

*P(B|A)=P(B)P(A|B)P(A)
我们把P(B)称为”先验概率”（Prior probability），即在A事件发生之前，我们对B事件概率的一个判断。

P(B|A)称为”后验概率”（Posterior probability），即在A事件发生之后，我们对B事件概率的重新评估。

P(A|B)/P(A)称为”可能性函数”（Likelyhood），这是一个调整因子，使得预估概率更接近真实概率。P(A)是全概率。

所以，条件概率可以理解成下面的式子：
后验概率=先验概率∗调整因子

如果想判别类别，只需计算Bi，B1>B2，则属于B1类

示例

示例1

假设我把这 7 个棋子放到了两个盒子里，其中盒子 A 里面有 2 个白棋，2 个黑棋；盒子 B 里面有 1 个白棋，2 个黑棋。假设，取出来的是白色棋子，属于A盒子的概率？
p（A|白色）=p（A）*p（白色|A）/p（白色）=4/7*1/2/3/7=2/3

示例2

#
是一个打喷嚏的建筑工人。请问他患上感冒的概率有多大？
p（感冒|打喷嚏&建筑工人）=p（感冒）*p（打喷嚏&建筑工人|感冒）/p（打喷嚏&建筑工人）=（1/2*2/3*1/3）/（1/2*1/3）=2/3

若问题的条件为0，则概率为0。p（打喷嚏&建筑工人|过敏）=1/2*0=0

用途

1.文档分类（TF-IDF）
2.垃圾邮件分类

代码