![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
xgboost
yaoqsm
这个作者很懒,什么都没留下…
展开
-
对xgboost原理的理解
先空着原创 2017-10-12 20:34:01 · 444 阅读 · 0 评论 -
xgboost相比传统gbdt有何不同?xgboost为什么快?xgboost如何支持并行?
传统GBDT以CART作为基分类器,xgboost还支持线性分类器,这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归(分类问题)或者线性回归(回归问题)。传统GBDT在优化时只用到一阶导数信息,xgboost则对代价函数进行了二阶泰勒展开,同时用到了一阶和二阶导数。顺便提一下,xgboost工具支持自定义代价函数,只要函数可一阶和二阶求导。xgboost在代价函数里加入了正则项,用...转载 2018-08-01 10:22:39 · 344 阅读 · 0 评论