机器篇——集成学习(三) 细说 提升(Boosting) 算法

 

返回主目录

返回集成学习目录

上一章:机器篇——集成学习(二) 细说 随机森林(Rondoom Forest) 算法

下一章:机器篇——集成学习(四) 细说 AdaBoost 算法

 

本小节,细说 提升(Boosting) 算法,下一小节细说 AdaBoost 算法

 

二. 具体算法

3. 提升(Boosting) 算法

    (1). Boosting 算法原型

     ①. 任一弱学习算法可以通过加强提升到一个任意正确率的学习算法,并通过构造一种多项式级的算法来实现这一加强过程。

     ②. Boosting 是一种将弱分类器通过某种方式结合起来得到一个分类性能大大提高的强化分类器的分类算法。该方法可以把一些粗略的经验规则转变为高度准确的预测法则。强分类器对数据进行分类,是通过弱分类器的多数投票机制进行的。该算法是一个简单的弱分类算法提升过程,这个过程通过不断的训练,以提高对数据的分类能力。

 

    (2). Boosting 的思路流程

     ①. 从样本整体集合 \large D 中,不放回地随机抽样 \large n_{1}  \large (n_{1} < n) 个样本,得到集合 \large D_{1},训练弱分类器 \large C_1 

     ②. 从样本整体集合 \large D 中,不放回地随机抽样 \large n_2  \large (n_2 < n) 个样本,得到集合 \large D_2,训练弱分类器 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值