集成算法与随机森林简介

集成算法的种类: 

 

第一种,随机森林模型

随机森林的优势:

①能够处理很高维度的数据,不用做特征选择。

②训练完之后可以给出哪些feature比较重要

③容易做成并行化方法,速度较快

④可视化展示。

第二种: Boosting模型。 串行模式

从弱学习期开始加强,通过加权来进行训练。

典型代表:AdaBoost ,Xgboost 

Ada boost会根据前一次的分类效果调整数据权重。

如果某一个数据在这次分类分错了,那么下次就会获得更大的权重。

最终的结果,每个分类器根据自身的准确性来确定各自的权重。

Xgboost 是一个非常强大的集成算法,各大比赛获得好成绩的基本都用这个。(后续单独写一篇文章) 

第三种:  Stacking算法 

拿来一堆分类器,为了刷结果,全部都用上。

第一步,使用不同的分类器得到结果。第二步,训练分类器的结果。

集成算法实战: ml-ensemble.com

from mlens.ensemble import SuperLearner  

 

 

 

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值