集成学习

--------------待更新--------------

Mark一些学习资料：
https://github.com/imhuay/Algorithm_Interview_Notes-Chinese/blob/master/A-机器学习/A-机器学习算法.md#梯度提升决策树-gbdt （一个简练的总结）

http://www.cnblogs.com/pinard/p/6131423.html (他的博客里有adaboost，GBoost等都挺好)

adaboost 和gboost区别：
https://www.zhihu.com/question/54626685
我觉得一个很重要的原因是，adaboost在迭代的过程中，是通过提高错分数据的权重来定位模型，而gboost是通过梯度来定位模型不足，用（负）梯度拟合本轮损失函数的近似值，使得本轮损失函数值最小。

https://xgboost.readthedocs.io/en/latest/tutorials/model.html （XGBoost）

• 关于 voting_classifier中的hard 和soft：

• https://stats.stackexchange.com/questions/320156/hard-voting-versus-soft-voting-in-ensemble-based-methods
  

• 关于 stacking 、 voting 等
  ：
  https://medium.com/@rrfd/boosting-bagging-and-stacking-ensemble-methods-with-sklearn-and-mlens-a455c0c982de

---

• lightGBM
  网上的一些资料吧：
• https://zhuanlan.zhihu.com/p/25308051
• https://www.jianshu.com/p/3daf08229d78
• http://lightgbm.apachecn.org/#/
• https://github.com/ColaDrill/2018spa/tree/master/imformation （总结帖）