LightGBM介绍与实践

LightGBM介绍

LightGBM是一个梯度Boosting框架，使用基于决策树的学习算法。

LightGBM的优点：

　　1）更快的训练效率

　　2）低内存使用

　　3）更高的准确率

　　4）支持并行化学习

　　5）可以处理大规模数据

参数设置：

 

task： 默认值=train，可选项=train，prediction；指定我们希望执行的任务，该任务有两种类型：训练 和 预测；
application： 默认值=regression，type=enum，options=options；
regression： 执行回归任务；
binary：二分类；
multiclass：多分类；
lambdarank：lambrank应用;
data： type=string;training data，LightGBM将从这些数据中进行训练；
num_iterations： 默认值为100，类型为int。表示提升迭代次数，也就是提升树的棵树;
num_leaves： 每个树上的叶子数，默认值为31，类型为int;
device： 默认值=cpu；可选项：cpu，gpu。也就是我们使用什么类型的设备去训练我们的模型。选择GPU会使得训练过程更快;
mindatain_leaf：