读了陈天奇同学的论文《XGBoost: A Scalable Tree Boosting System》后感觉很佩服。本文对XGBoost的数学原理做了深入细致的解析,对其中一些数学公式的推导进行了详细说明,目的就是要让刚接触XGBoost的朋友能够快速透彻的掌握XGBoost原理。只有理解了其原理才能熟练使用它。因为我先写在了World文档里,公式太多,再在博客里来编辑公式太费时间,所以就直接以图片的形式上传了。本文水平有限,文中有恩多不足之处,望热心的朋友能对我及时提出指导,我好及时修改以免误了大家。如果大家有什么问题也可以直接邮箱联系我,随时欢迎交流,共同学习。欢迎大家转载,请注明出处哦。
XGBoost的Github主页:https://github.com/tqchen/xgboost,这个建议大家认真学习下。