【阶段三】Python机器学习21篇：机器学习项目实战：GBDT算法的核心思想、原理概述、原理举例与GBDT回归模型

本篇的思维导图：

 

GBDT算法的核心思想

---

       GBDT是Gradient Boosting Decision Tree（梯度提升树）的缩写。GBDT算法也是一种非常实用的Boosting算法，它与AdaBoost算法的区别在于：AdaBoost算法根据分类效果调整权重并不断迭代，最终生成强学习器；GBDT算法则将损失函数的负梯度作为残差的近似值，不断使用残差迭代和拟合回归树，最终生成强学习器。简单来说，AdaBoost算法是调整权重，而GBDT算法则是拟合残差。

---

      下面通过一个简单的信用卡额度预测模型来帮助大家理解GBDT算法的核心思想。下表中有4个样本客户的数据，特征变量X1为年龄，X2为月收入（元），目标变量y是实际信用卡额度（元）。现在要利用GBDT算法根据样本数据构造模型，用于预测信用卡额度。

---