一. 损失函数期望公式(期望风险函数)
R e x p ( f ) = E p [ L ( Y , f ( x ) ) ] = ∫ χ × γ L ( Y , f ( x ) ) P ( x , y ) d x d y R_{exp}(f) = E_p[L(Y, f(x))] = \int_{\chi \times \gamma} L(Y, f(x))P(x, y)dxdy Rexp(f)=Ep[L(Y,f(x))]=∫χ×γL(Y,f(x))P(x,y)dxdy
二. 后验概率最大
上面是李航老师《统计学习方法》中关于朴素贝叶斯-后验概率最大化的公式推导,由于推导的过程跨度较大,特写这篇博客记录一下自己的理解。
期望风险函数到条件期望这步可以参考:
https://blog.csdn.net/yaokun2012/article/details/81913129
为了使期望风险最小化,只需对X=x逐个极小化,由此得到:
f ( x ) = a r g m i n ∑ j = 1 J L ( c j , y ) P ( c j ∣ X = x ) f(x) = arg min \sum_{j=1}^JL(c_j, y)P(c_j|X=x) f(x)=argminj=1∑JL(cj,y)P(cj∣X=x)
其中 ( c 1 , c 2 , . . . , c J ) (c_1, c_2, ..., c_J) (c1,c2,...,c