机器学习（9）贝叶斯分类

先来看一个例子：

假设广东娱乐大学里面男生和女生人数比例是3：1,男生中留长发的比例是10%，女生留长发的比例是80%。现在随机观测到N个留长发的学生的背影，推论这N个学生中女生的比例。

这里假设学校总人数是U人，P(男)表示U人中男生的比例，即75%，P(长发|男）表示在男里面长发的比例，即10%，这就是个条件概率。那么，同样地，P(女）=25%，P（长发|女）=80%

现在要求的是长发中是女的概率，

化简后得：

贝叶斯基本公式（也称为朴素贝叶斯）就是：

其中P(A)表示A的先验概率（也称边缘概率），之所以为“先验”，是因为它不考虑到B方面的因素，P（B|A）表示A发生后B再发生的条件概率，所以条件概率也称为后验概率。

再用一个场景更实际的例子：

给定数据如下：

现在给我们的问题是，如果一对男女朋友，男生想女生求婚，男生的四个特点分别是不帅，性格不好，身高矮，不上进，请你判断一下女生是嫁还是不嫁？这是一个典型的分类问题，转为数学问题就是比较p(嫁|(不帅、性格不好、身高矮、不上进))与p(不嫁|(不帅、性格不好、身高矮、不上进))的概率，谁的概率大，我就能给出嫁或者不嫁的答案！

其中p(不帅、性格不好、身高矮、不上进|嫁) = p(不帅|嫁)*p(性格不好|嫁)*p(身高矮|嫁)*p(不上进|嫁)，那么我就要分别统计后面几个概率，也就得到了左边的概率。

得出结果为：

因为朴素贝叶斯假设特征之间是独立的，尽管该假设不是很严谨，但实际应用效果不错。

这里仅仅讲朴素贝叶斯.

日常深推一波公众号：