本文详细介绍了XGBoost的优势，如正则化、并行处理和高度灵活性，并探讨了其参数配置，包括booster、eta、gamma、max_depth等。还提供了调参的一般方法，强调在调参过程中，先选择较高学习率，再通过交叉验证确定树的数量，最后进行正则化参数的优化。
转载请注明作者和出处：http://blog.csdn.net/u013829973
我的GitHub：https://github.com/weepon
欢迎评论，顶！
在上一篇文章 xgboost如何在window上安装之后，接下来要学习如何使用它。
关于xgboost的相关资料汇总：
Xgboost Slides
原始论文XGBoost: A Scalable Tree Boosting System
官方网站
官方GitHub
Complete Guide to Parameter Tuning in XGBoost (with codes in Python)
XGBoost Plotting API以及GBDT组合特征实践
为什么要选择xgboost？
1. XGBoost的优势
1.1 正则化
- 标准GBM的实现没有像XGBoost这样的正则化步骤。正则化可以减少过拟合。
- 实际上，XGBoost以“正则化提升(regularized boosting)”技术而闻名。
1.2 并行处理
- XGBoost可以实现并行处理，相比GBM有了速度的飞跃。
- 不过，众所周知，Boosting算法是顺序处理的，它怎么可能并行呢
最低0.47元/天 解锁文章
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
