贝叶斯分类器推导过程
参考自我在课堂上学何老师的知识
1. 贝叶斯公式
- 贝叶斯公式的一般形式
P ( A ∣ B ) = P ( A , B ) P ( B ) ⇔ P ( A , B ) = P ( B ) P ( A ∣ B ) = P ( A ) P ( B ∣ A ) (1.1) P(A|B)=\frac{P(A,B)}{P(B)}\Leftrightarrow P(A,B)=P(B)P(A|B)=P(A)P(B|A) \tag{1.1} P(A∣B)=P(B)P(A,B)⇔P(A,B)=P(B)P(A∣B)=P(A)P(B∣A)(1.1)
将 P ( A , B ) P(A,B) P(A,B) 用 P ( A ) P ( B ∣ A ) P(A)P(B|A) P(A)P(B∣A) 替代得
P ( A ∣ B ) = P ( A ) P ( B ∣ A ) P ( B ) (1.2) P(A|B)=\frac{P(A)P(B|A)}{P(B)} \tag{1.2} P(A∣B)=P(B)P(A)P(B∣A)(1.2)
这个时候你可能还是一头雾水,这个和我们分类有什么问题呢?你只用记得上面是对的就可以了。
接下来会“套用”到分类问题上。
- 对于分类问题的贝叶斯公式
假设有 k k k个类 { w 1 , w 2 , ⋯ , w K } \{w_1, w_2, \cdots, w_K\} { w1,w2,⋯,wK},属性值有 D D D维 x ⃗ = { x ( 1 ) , x ( 1 ) , ⋯ , x ( D ) } \vec{x}=\{x^{(1)},x^{(1)},\cdots,x^{(D)}\} x={ x(1),x(1),⋯,x(D)