机器学习 朴素贝叶斯与贝叶斯网络

一.朴素贝叶斯
1.概述
(1)概念:

"贝叶斯分类"(Bayes Classification)是以贝叶斯定理为基础的分类算法的总称.而"朴素贝叶斯"(Naive Bayes)则是其中最简单,最常见
的1种分类方法,常用于文本分类/欺诈检测/人脸识别."朴素"是指该算法的2个假设:
①特征独立性:每个特征的概率分布都与其他特征独立
②特征均衡性:每个特征都同等重要

(2)步骤:

设全部类别为c1,c2...cm,特征向量为x=(x1,x2...xn)
①计算P(x|ci),P(c),P(x)
②根据贝叶斯公式计算P(ci|x)
③如果P(ci|x)=max{
   P(c1|x),P(c2|x)...P(cm|x)},则x∈ci

(3)实例:

假设已经有1000封被标记好了($c_1$表示垃圾邮件,$c_2$表示非垃圾邮件)的邮件,要求识别第1001封邮件是否为垃圾邮件.首先构建词汇表,设其中的单词数为$N=n$.将邮件$m$映射到$n$维向量$x$$$m\to x=(x_1,x_2$$