lightgbm.LGBMRanker
boosting_type (string, optional (default=‘gbdt’))
一种可以用来减小监督式学习中偏差的机器学习算法。供选择的参数有:
- ‘gbdt’, traditional Gradient Boosting Decision Tree.
GBDT有很多简称,有GBT(Gradient Boosting Tree), GTB(Gradient Tree Boosting ), GBRT(Gradient Boosting Regression Tree), MART(Multiple Additive Regression Tree),其实都是指的同一种算法。
GBDT是集成学习Boosting家族的成员,但是却和传统的Adaboost有很大的不同。Adaboost利用前一轮迭代弱学习器的误差率来更新训练集的权重,这样一轮轮的迭代下去。GBDT也是迭代,使用了前向分布算法,但是弱学习器限定了只能使用CART回归树模型,同时迭代思路和Adaboost也有所不同。
- ‘dart’, Dropouts meet Multiple Additive Regression Trees.
gbdt中引入dropout思想
- ‘goss’,Gradient-based One-Side Sampling.
GOSS是一个样本实例的采样算法,目的是丢弃一些对计算信息增益没有帮助的实例留下有帮助的。
- ‘rf’, Random Forest
rf是Bagging算法的进化版,也就是说,它的思想仍然是ba