机器学习——贝叶斯算法(Bayes)

1、从一个例子来了解贝叶斯？

假设一个学校里面人数总数为U，其中60%的学生为男生，40%的学生为女生，男生全部穿长裤，女生有一半穿长裤一半穿短裤
正向概率：随机选择一个学生，穿长裤的概率和穿裙子的概率分别是多大
逆向概率：迎面走来一个穿长裤的学生，推断其是女生的概率是多大
穿长裤的人数：$U\ast p(boy)\ast p(pants|boy)+U\ast p(girl)\ast p(pants|girl)$
穿长裤的女生人数：$U\ast p(girl)\ast p(pants|girl)$
$$p(girl|pants)=\frac{p(girl)\ast p(pants|girl)}{p(boy)\ast p(pants|boy)+p(girl)\ast p(pants|girl)}$$

2、贝叶斯公式

$$p(A|B)=\frac{p(A)\ast p(B|A)}{p(B)}$$
条件概率：$p(A|B)$，在B发生的条件下A发生的概率
联合概率：$p(A,B)=p(A)\ast p(B|A)$,事件A和事件B都发生的概率

在机器学习的视角下，将A和B分别理解为
A：属于A类别
B：具备B特征
则有$$p(A类别|B特征）=\frac{p(A类别)\ast p(B特征|A类别)}{p(B特征）}$$

假定需要确定2种类别标签，定义为$A_1$和$A_2$，一种放法是计算这两个标签的后验概率的比值
p ( A 1 类 别 ∣ B 特 征 ） p ( A 2 类 别 ∣ B 特 征 ) = p ( A 1 类 别 ) ∗ p ( B 特 征 ∣ A 1 类 别 ) p