朴素贝叶斯后验概率最大化准则意义？

朴素贝叶斯法将实例分到后验概率最大化的类中。这等价与期望风险最小化。假设选取的是0-1损失函数，

L(y,f(x))={10y≠f(x)y=f(x)

这是期望风险函数为

Rexp(f)===∫∫DXYL(y,f(x))P(x,y)dxdy∫DX∫DYL(y,f(x))P(y|x)P(x)dxdy=∫DX[∫DYL(y,f(x))P(y|x)dy]P(x)dx

其中， ∫DYL(y,f(x))P(y|x)dy称为在 X=x时的y的条件期望。

为了使期望风险最小，只需要对每一个X=x

逐个极小化。

f(x)=====argminy∈Y∫DYL(y,f(x))P(y|x)dyargminy∈Y∑k=1KL(ck,f(x))P(ck|x)argminy∈Y∑k=1KP(y≠ck|x)argminy∈Y1−P(y=ck|x)argmaxy∈YP(y=ck|x)

根据期望风险最小化准则就得到了后验概率最大化准则。

f(x)=argmaxckP(ck|X=x)