本文回顾了GBDT（梯度提升决策树）的基础理论，并探讨了其在处理回归和分类问题时的区别。在分类问题中，GBDT利用CART回归树处理，针对每个类别训练独立的树。尽管目标不同，但分类问题中依然存在残差概念，因为CART树的损失函数是平方误差。此外，讨论了GBDT在实际应用中对统计类特征的偏好，以及它对离散型特征的处理挑战。
一、理论回顾
前期理论铺垫：【机器学习】GBDT梯度提升树_littlemichelle-CSDN博客
二、回归vs. 分类问题
GBDT用回归树来处理分类问题例子
机器学习算法GBDT的面试要点总结-上篇 - ModifyBlog - 博客园
三、QA
Q1、GBDT分类问题中还有残差的概念吗？
A1、
GBDT处理回归or分类问题都使用CART回归树，
CART回归树的loss是平方差损失函数；
所以GBDT不论处理回归or分类问题都有残差的概念。
- GBDT分类：为每个类别都训练一颗CART回归树；
- GBDT回归：
实践
树模型喜欢统计类特征，对离线型特征不友好。
- user：
- 1h、2h加购次数；
- 1d\3d\7d\14d\30d加购商品次数；
- 1d\3d\7d\14d\30d加购三级品类次数；
- item：
- 1h、2h该三级品类被加购次数；
- 1d\3d\7d\14d\30d这个三级品类被加购次数；
767
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
