学习笔记learning to rank--LightGBM--参数介绍

lightgbm.LGBMRanker

boosting_type (string, optional (default=‘gbdt’))
一种可以用来减小监督式学习中偏差的机器学习算法。供选择的参数有：

- ‘gbdt’, traditional Gradient Boosting Decision Tree.
GBDT有很多简称，有GBT（Gradient Boosting Tree）, GTB（Gradient Tree Boosting ）， GBRT（Gradient Boosting Regression Tree）, MART(Multiple Additive Regression Tree)，其实都是指的同一种算法。
GBDT是集成学习Boosting家族的成员，但是却和传统的Adaboost有很大的不同。Adaboost利用前一轮迭代弱学习器的误差率来更新训练集的权重，这样一轮轮的迭代下去。GBDT也是迭代，使用了前向分布算法，但是弱学习器限定了只能使用CART回归树模型，同时迭代思路和Adaboost也有所不同。
- ‘dart’, Dropouts meet Multiple Additive Regression Trees.
gbdt中引入dropout思想
- ‘goss’,Gradient-based One-Side Sampling.
GOSS是一个样本实例的采样算法，目的是丢弃一些对计算信息增益没有帮助的实例留下有帮助的。
- ‘rf’, Random Forest
rf是Bagging算法的进化版，也就是说，它的思想仍然是ba