机器学习之随机森林和GBDT的区别以及Xgboost和GBDT的区别

随机森林:

理解:多棵决策树(CART树)https://blog.csdn.net/blank_tj/article/details/82081002组合而成,分类问题:每棵树投票找最高票;回归问题:每棵树的值求和取平均。

特点:随机森林基于Bagging https://blog.csdn.net/blank_tj/article/details/82229322,所以每次训练随机从总数据 D D 中选择 N 条数据, N<D N < D 。每次选择的特征是从总特数 P P 中,随机选择 Q 个特征,通常 Q<P Q < P 。重复 M M 次,生成 M 棵树。
通过这种每次随机数据,随机特征的方式进行建树。

优点
1)训练速度快,泛化能力强,可并行建树,因为树与树相互独立;
2)能学到特征之间的相互影响,因为每次选择的特征不同;
3)可处理高维特征,因为不需要特征选择,用随机选择;
4)相比 SVM S V M ,不是很怕特征缺失,因为随机特征;
6)可以反馈哪些特征的权重,价值比较高。

随机森林和GBDT区别

1)随机森林采用的

  • 10
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值