最近学习了gradient boost+Decision Tree的原理;xgboost,lightgbm论文原文。有一些收获,gbdt总结的笔记比较多 就没放上来。主要看下xgb,lgb的时间复杂度 & 部分总结点
1.时间复杂度对比
2.gbdt一阶导数 & xgb二阶导数
3.exact greedy algorihtm(pre-sort)
4.approximately algothm(分位点 + global split)
5.gossampling(采样)
6.efbundling(sparse