《统计学习方法》-李航、《机器学习-西瓜书》-周志华总结+Python代码连载(三)--贝叶斯分类器(Bayes)

一、贝叶斯概论

假设有N种可能的类别标记,即y\in \left \{ c_{1},c_{2},...,c_{N} \right \},\lambda _{ij}是将一个真实的c_{j}的样本误分类成c_{i}所产生的损失。在后验概率P(c_{i}|x)的基础上可得到将样本x分类成c_{i}的期望损失(条件风险):

R(c_{i}|x) = \sum _{j=1}^{N} \lambda _{ij}\cdot P(c_{j}|x)

需要寻找到一个准则,使得所有样本对每个分类产生的条件风险最小,显然,对每个样本x能最小化条件风险即可,因此就有贝叶斯判定准则(Bayes decision rule):为最小化总体条件风险,只需要在每个样本上选择能使条件风险最小,即h^{*}(x)=argmin R(c|x),此时则称h^{*}(x)为贝叶斯最优分类器。

不妨将损失为0/1损失函数:

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值