朴素贝叶斯

贝叶斯

一个例子:假设小明有3个苹果，1个梨，其中单个苹果已经烂掉的概率为1/3，单个梨已经烂掉的概率为2/3.问:小明拿出一个水果，它已经烂了，那么它最可能是苹果还是梨呢。

解:设W₁表示苹果、W₂表示梨，X表示烂掉这一事件。则，P(W₁) = 3/4;P(W₂)=1/4;P(X|W₁)=1/3;P(X|W₂)=2/3。问的是在已知烂了这一事件发生的条件下，分别可能是两种水果种类的概率，取较大的那个概率。即，求P(W₁|X)、P(W₂|X)中，较大者对应的W。

由贝叶斯公式：可以得出: 和
其中，两个式子中的P(W)、以及P(X|W)已经给出。（P(W)在贝叶斯定理中被称为先验概率或者叫做边缘概率；P(X|W)是一个类条件概率;P(W|X)是后验概率）那么，P(X)该怎么求呢?

全概率公式:当事件群完备时(此处的完备可以理解为,要么是苹果、要么是梨，两者的概率相加为1)
用图片表示即为: （B即此例中的W）
在这种情况下，P(X) = P(XW₁+XW₂)=P(X|W₁)P(W₁)+P(X|W₂)P(W₂)
因此，可以算出结果:

朴素贝叶斯

个人理解:根据已知的特征空间，已经它们各自对应的类别，来推测给定的新样本的类别。

举个例子就是说:小红有很多择偶标准，如身高、年龄、年薪…这些身高、年龄、薪资就是样本，它们之间通过不同的组合会得到不同的类别。比如身高160、年龄50、年薪100万—>嫁；
身高180、年龄20、年薪10万—>不嫁等等。如果小明身高175、年龄25、年薪15万，那嫁不嫁呢？

在这个例子中，特征值基本上全都是连续的，可能不好理解，给出一个离散的例子。

问题求的就是中，较大概率所对应的类别。
我们有贝叶斯公式w在此例中对应了嫁与不嫁，x则是很多特征,其实应该是X={x1,x2,x3…}。而这些特征之间都是独立的，所以可以进一步得到:。（c就是w，笔误）
其中 P(C )可以理解为:当前所有样本中，类别为C的概率，即。
其中则根据特征值的不同，分成两类，分别是离散的、还有连续的。分别表示为:
。离散中的式子理解为:在所有类别是C_i的样本中，该特征是某一值的概率。
对应此例中，就是至于分母上的P(X)我也不知道为什么省略了。

贝叶斯网络:tobecontinued