https://www.cnblogs.com/techflow/p/13445042.html
参考:https://zhuanlan.zhihu.com/p/62106410
关于决策树参考:https://blog.csdn.net/haoyutiangang/article/details/104755877
参考:https://www.jianshu.com/p/005a4e6ac775
参考:https://www.cnblogs.com/techflow/p/13445042.html
一、Boosting ↓bias
对应欠拟合
Boosting 训练基分类器采用 stacking(串行) 的方式,基分类器之间有强依赖。
Boosting 的过程是 迭代式 的,第一遍学习,所犯的错误,在第二遍学习时会加强。
偏差 是由于分类器的表达能力有限,导致的系统性错误,表现为训练误差不收敛。
1. GBDT回归(划分结点:mse)
- GBDT(Gradient Boosting Decision Tree) 又叫 MART(Multiple Additive Regression Tree),是一种迭代的决策树算法,该算法由多棵决策树(通常为