朴素贝叶斯法后验概率最大化的含义

最新推荐文章于 2022-10-29 17:43:18 发布

Jun~o~

最新推荐文章于 2022-10-29 17:43:18 发布

阅读量1.3k

点赞数

分类专栏：机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/reboomjun/article/details/84672819

版权

机器学习专栏收录该内容

2 篇文章 0 订阅

订阅专栏

朴素贝叶斯法将实例分到后验概率最大的类中。这等价于期望风险最小化。假定选择0-1损失函数：

$L({\bf{Y}},f({\bf{X}})) = \left\{ {\begin{array}{*{20}{l}} {1,}&{{\bf{Y}} \ne f({\bf{X}})}\\ {0,}&{{\bf{Y}} = f({\bf{X}})} \end{array}} \right.$

式中 $f({\bf{X}})$ 是分类决策函数。这是，期望风险函数为

${R_{exp}}(f) = E[L({\bf{Y}},{\bf{f}}({\bf{X}}))]$

期望是对联合分布 $P(\bf{X},\bf{Y})取的$ 取的。由全期望公式：

$E(\bf{X})=E_{\bf{Y}}(E(\bf{X}|\bf{Y}))\\ =\sum_y(\sum_xx\cdot P(\bf{X}|\bf{Y}=y))\cdotP(\bf{Y}=y)\\ =\sum_y\sum_xx\cdot P(\bf{X}|\bf{Y}=y))P(\bf{Y}=y)\\ =\sum_y\sum_xx\cdot P(\bf{Y}=y|\bf{X}=x)P(\bf{X}=x)\\ =\sum_xxP(\bf{X}=x)\sum_yP(\bf{Y}=y|\bf{X}=x)\\ =E(\bf{X})$

令 $\bf{X}=L[(\bf{Y},\mathit{f}(\bf{X}))]$ 则：

$R_{exp}(\mathit{f})=E_{\bf{X}}\sum_{k=1}^{\bf{K}}[L(c_k,\mathit{f}(\bf{X}))]P(c_k|\bf{X})$

为了使期望风险最小化，只需对 $\bf{X}=x$ 逐个极小化，也就是对每个变量 $\bf{X}$ 取值的概率P取最小值，在这里P相当于 $\sum_{k=1}^{\bf{K}}[L(c_k,\mathit{f}(\bf{X}))]P(c_k|\bf{X})$

由此得到：

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
朴素贝叶斯法后验概率最大化的含义

朴素贝叶斯法将实例分到后验概率最大的类中。这等价于期望风险最小化。假定选择0-1损失函数：式中是分类决策函数。这是，期望风险函数为期望是对联合分布取...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。