XGBOOST和LightGBM

如何玩转LightGBM_哔哩哔哩_bilibili

机器学习算法之LightGBM – 标点符

XGBoost的特点：

LightGBM设计的初衷是高效与并行化。

 

直方图优化：

 

 

leaf_wise with max depth limitation :

直方图做差：

 

 

 

 

 

 

 

 

 

 

 

 

​​​​​​​ 

 

第三个第五个用的比较多 

 

LightGBM算法原理、Python代码实现与案例实战_哔哩哔哩_bilibili

 

 

 

 

 

 

 

 

 

 

XGBOOST:

xgboost入门与实战（原理篇）_我曾经被山河大海跨过的博客-CSDN博客_xgboost

http://www.52cs.org/?p=429（比较全）

http://wepon.me/

XGBoost特点、调参、讨论:

https://blog.csdn.net/niaolianjiulin/article/details/76574216

1. 有监督学习算法的逻辑组成

要讲boosted tree，要先从有监督学习讲起。在有监督学习里面有几个逻辑上的重要组成部件3，初略地分可以分为：模型，参数 和 目标函数

i. 模型和参数。

ii. 目标函数：损失 + 正则

iii. 优化算法

LightGBM:

https://blog.csdn.net/niaolianjiulin/article/details/76584785点击打开链接

如何看待微软新开源的LightGBM?

如何看待微软新开源的LightGBM? - 知乎