朴素贝叶斯最好的例子与推导

http://zh.wikipedia.org/wiki/%E6%9C%B4%E7%B4%A0%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%88%86%E7%B1%BB%E5%99%A8


朴素贝叶斯概率模型

理论上,概率模型分类器是一个条件概率模型。

p(C \vert F_1,\dots,F_n)\,

独立的类别变量C有若干类别,条件依赖于若干特征变量 F_1,F_2,...,F_n。但问题在于如果特征数量n较大或者每个特征能取大量值时,基于概率模型列出概率表变得不现实。所以我们修改这个模型使之变得可行。 贝叶斯定理有以下式子:

p(C \vert F_1,\dots,F_n) = \frac{p(C) \ p(F_1,\dots,F_n\vert C)}{p(F_1,\dots,F_n)}. \,

用朴素的语言可以表达为:

\mbox{posterior} = \frac{\mbox{prior} \times \mbox{likelihood}}{\mbox{evidence}}. \,

实际中,我们只关心分式中的分子部分,因为分母不依赖于C而且特征F_i的值是给定的,于是分母可以认为是一个常数。这样分子就等价于联合分布模型。

p(C \vert F_1, \dots, F_n)\,

重复使用链式法则,可将该式写成条件概率的形式,如下所示:

p(C \vert F_1, \dots, F_n)\,
\varpropto p(C) \ p(F_1,\dots,F_n\vert C)
\varpropto p(C) \ p(F_1\vert C) \ p(F_2,\dots,F_n\vert C, F_1)
\varpropto p(C) \ p(F_1\vert C) \ p(F_2\vert C, F_1) \ p(F_3,\dots,F_n\vert C, F_1, F_2)
\varpropto p(C) \ p(F_1\vert C) \ p(F_2\vert C, F_1) \ p(F_3\vert C, F_1, F_2) \ p(F_4,\dots,F_n\vert C, F_1, F_2, F_3)
\varpropto p(C) \ p(F_1\vert C) \ p(F_2\vert C, F_1) \ p(F_3\vert C, F_1, F_2) \ \dots p(F_n\vert C, F_1, F_2, F_3,\dots,F_{n-1}).

现在“朴素”的条件独立假设开始发挥作用:假设每个特征F_i对于其他特征F_j,j\neq i是条件独立的。这就意味着

p(F_i \vert C, F_j) = p(F_i \vert C)\,

对于i\ne j,所以联合分布模型可以表达为

\begin{align}p(C \vert F_1, \dots, F_n) & \varpropto p(C) \ p(F_1\vert C) \ p(F_2\vert C) \ p(F_3\vert C) \ \cdots\, \\& \varpropto p(C) \prod_{i=1}^n p(F_i \vert C).\,\end{align}

这意味着上述假设下,类变量C的条件分布可以表达为:

p(C \vert F_1,\dots,F_n) = \frac{1}{Z}  p(C) \prod_{i=1}^n p(F_i \vert C)

其中Z(证据因子)是一个只依赖与F_1,\dots,F_n等的缩放因子,当特征变量的值已知时是一个常数。 由于分解成所谓的类先验概率p(C)和独立概率分布p(F_i\vert C),上述概率模型的可掌控性得到很大的提高。如果这是一个k分类问题,且每个p(F_i\vert C=c)可以表达为r个参数,于是相应的朴素贝叶斯模型有(k − 1) + n r k个参数。实际应用中,通常取k=2(二分类问题),r=1 (伯努利分布作为特征),因此模型的参数个数为2n+1,其中n是二值分类特征的个数。

[编辑]

性别分类

问题描述:通过一些测量的特征,包括身高、体重、脚的尺寸,判定一个人是男性还是女性。

[编辑]训练

训练数据如下:

性别 身高(英尺) 体重(磅) 脚的尺寸(英尺)
6 180 12
5.92 (5'11") 190 11
5.58 (5'7") 170 12
5.92 (5'11") 165 10
5 100 6
5.5 (5'6") 150 8
5.42 (5'5") 130 7
5.75 (5'9") 150 9

假设训练集样本的特征满足高斯分布,得到下表:

性别 均值(身高) 方差(身高) 均值(体重) 方差(体重) 均值(脚的尺寸) 方差(脚的

尺寸)

男性 5.855 3.5033e-02 176.25 1.2292e+02 11.25 9.1667e-01
女性 5.4175 9.7225e-02 132.5 5.5833e+02 7.5 1.6667e+00

我们认为两种类别是等概率的,也就是P(male)= P(female) = 0.5。在没有做辨识的情况下就做这样的假设并不是一个好的点子。但我们通过数据集中两类样本出现的频率来确定P(C),我们得到的结果也是一样的。

[编辑]测试

以下给出一个待分类是男性还是女性的样本。

性别 身高(英尺) 体重(磅) 脚的尺寸(英尺)
sample 6 130 8

我们希望得到的是男性还是女性哪类的后验概率大。男性的后验概率通过下面式子来求取

posterior (male) = \frac{P(male) \, p(height | male) \, p(weight | male) \, p(foot size | male)}{evidence}

女性的后验概率通过下面式子来求取

posterior (female) = \frac{P(female) \, p(height | female) \, p(weight | female) \, p(foot size | female)}{evidence}

证据因子(通常是常数)用来是各类的后验概率之和为1.

evidence = P(male) \, p(height | male) \, p(weight | male) \, p(foot size | male) + P(female) \, p(height | female) \, p(weight | female) \, p(foot size | female)

证据因子是一个常数(在正态分布中通常是正数),所以可以忽略。接下来我们来判定这样样本的性别。

P(male) = 0.5

p(\mbox{height} | \mbox{male}) = \frac{1}{\sqrt{2\pi \sigma^2}}\exp\left(\frac{-(6-\mu)^2}{2\sigma^2}\right) \approx 1.5789,其中\mu = 5.855\sigma^2 = 3.5033e^{-02}是训练集样本的正态分布参数. 注意,这里的值大于1也是允许的 – 这里是概率密度而不是概率,因为身高是一个连续的变量.

p(weight | male) = 5.9881e^{-06}
p(foot size | male) = 1.3112e^{-3}
posterior numerator (male) = 6.1984e^{-09}
P(female) = 0.5
p(height | female) = 2.2346e^{-1}
p(weight | female) = 1.6789e^{-2}
p(foot size | female) = 2.8669e^{-1}
posterior numerator (female) = 5.3778e^{-04}

由于女性后验概率的分子比较大,所以我们预计这个样本是女性。



阅读更多
换一批

没有更多推荐了,返回首页