xgboost算法原理

最新推荐文章于 2024-09-09 20:20:55 发布

ab0902cd

最新推荐文章于 2024-09-09 20:20:55 发布

阅读量754

点赞数 1

分类专栏：算法

本文链接：https://blog.csdn.net/ab0902cd/article/details/107367223

版权

算法专栏收录该内容

21 篇文章 0 订阅

订阅专栏

xgboost作者陈天奇的ppt：https://homes.cs.washington.edu/~tqchen/pdf/BoostedTree.pdf

1. XGBoost目标函数

XGBoost的目标函数由训练损失和正则化项两部分组成，目标函数定义如下：

$obj=\sum _{i=1}^{n}L(y_{i},\widetilde{y})+\sum _{i=1}^{n}\Omega (f_{k})$

第一项为损失函数，第二项为树的复杂度

变量解释：

（1）l 代表损失函数，常见的损失函数有：

平方损失函数： $L(y_{i},\widetilde{y})=(y_{i}-\widetilde{y})^{2}$

逻辑回归损失函数： $L(y_{i},\widetilde{y})=y_{i}In(1+e^{-\widetilde{y}_{i}})+(1-y_{i})In(1+e^{-\widetilde{y}_{i}})$

（2）yi'是第 i 个样本 xi 的预测值。由于XGBoost是一个加法模型，因此，预测得分是每棵树打分的累加之和。

$\widetilde{y_{i}}=\sum _{i=1}^{K}f(x_{i}), f_{k}\in \Gamma$

（3）将全部k棵树的复杂度进行求和，添加到目标函数中作为正则化项，用于防止模型过度拟合。

$\sum _{i=1}^{K}\Omega (f_{k})$

2. 学习第t棵树

在【1】中提到，XGBoost 是一个加法模型，假设我们第t次迭代要训练的树模型是 ft() ，则有：

$\widetilde{y}^{(t)}=\widetilde{y}^{(t-1)}+f_{(t)}(x_{i})$

将上式带入【1】中的目标函数 Obj ，可以得到：

$obj=\sum _{i=1}^{n}L(y_{i},\widetilde{y_{i}}^{(t-1)}+f_{t}(x_{i})))+\sum _{i=1}^{n}\Omega (f_{k})\\ &=\sum _{i=1}^{n}L(y_{i},\widetilde{y_{i}}^{(t-1)}+f_{t}(x_{i})))+\Omega (f_{k})+C$

注意上式中，只有一个变量，那就是第 t 棵树：

其余的都是已知量或可通过已知量可以计算出来的（注意要理解哦！）。

细心的同学可以发现，这里我们将正则化项进行了拆分，由于前 t-1棵树的结构已经确定，因此，前 t-1 棵树的复杂度之和可以用一个常量表示：

$\sum _{i=1}^{t}\Omega (f_{k})=\Omega (f_{k})+\sum _{i=1}^{t-1}\Omega (f_{k})=\Omega (f_{k})+C$

t-1棵树的复杂度是已知的，可视为常数项

3. 泰勒公式展开

首先简单回忆一下，泰勒公式。

泰勒公式是将一个在 x = x0 处具有n阶导数的函数 f(x) 利用关于 (x-x0) 的n次多项式来逼近函数的方法。

泰勒公式的二阶展开形式如下：

回到我们的问题上来， f(x) 对应于我们的损失函数 l ，x 对应于前 t-1 棵树的预测值，Δx 对应于我们正在训练的第 t 棵树。

首先定义损失函数 l 关于 y‘(t-1) 的一阶偏导数和二阶偏导数：

那么，我们的损失函数就可以转化为下式（标出了与泰勒公式中x和Δx的对应关系）。

$L(y_{i},\widetilde{y_{i}}^{(t-1)}+f_{t}(x_{i}))=L(y_{i},\widetilde{y_{i}}^{(t-1)})+g_{i}f_{t}+\frac{1}{2}h_{i}f_{t}^{2}(x_{i})$

将上述二阶展开式，带入到【2】中的目标函数 Obj 中，可以得到目标函数 Obj 的近似值：

$obj^{(t)}=\sum _{i=1}^{n}[L(y_{i},\widetilde{y_{i}}^{(t-1)})+g_{i}f_{t}(x_{i})+\frac{1}{2}h_{i}f_{t}^{2}(x_{i})]+\Omega (f_{k})+C$

去掉全部常数项， $\sum _{i=1}^{n}L(y_{i},\widetilde{y_{i}}^{(t-1)})$ 可视为常量，可以去除，得到目标函数：

$obj^{(t)}=\sum _{i=1}^{n}[g_{i}f_{t}(x_{i})+\frac{1}{2}h_{i}f_{t}^{2}(x_{i})]+\Omega (f_{k})$

4. 定义一颗树

我们重新定义一颗树，包括两个部分：

叶子结点的权重向量 ω ；
实例 -> 叶子结点的映射关系q（本质是树的分支结构）；

一棵树的表达形式定义如下：

5. 定义树的复杂度

我们定义一颗树的复杂度 Ω，它由两部分组成：

叶子结点的数量；
叶子结点权重向量的L2范数；

6. 叶子结点归组

我们将属于第 j 个叶子结点的所有样本 xi , 划入到一个叶子结点样本集中，数学表示如下：

然后，将【4】和【5】中一棵树及其复杂度的定义，带入到【3】中泰勒展开后的目标函数Obj中，具体推导如下：

为进一步简化该式，我们进行如下定义：

含义如下：

Gj ：叶子结点 j 所包含样本的一阶偏导数累加之和，是一个常量；
Hj ：叶子结点 j 所包含样本的二阶偏导数累加之和，是一个常量；

将 Gj 和 Hj 带入目标式Obj，得到我们最终的目标函数（注意，此时式中的变量只剩下第t棵树的权重向量W）：

7. 树结构打分

回忆一下高中数学知识。假设有一个一元二次函数，形式如下：

我们可以套用一元二次函数的最值公式轻易地求出最值点：

那回到我们的目标函数 Obj，该如何求出它的最值呢？

先简单分析一下上面的式子：

对于每个叶子结点 j , 可以将其从目标式 Obj 中拆解出来：

在【6】中我们提到，Gj 和 Hj 相对于第 t 棵树来说是可以计算出来的。那么，这个式子就是一个只包含一个变量 叶子结点权重wj 的一元二次函数，上面也提到了，我们可以通过最值公式求出它的最值点。

再次分析一下目标函数Obj，可以发现，各个叶子结点的目标子式是相互独立的，也就是说，当每个叶子结点的子式都达到最值点时，整个目标函数式Obj才达到最值点。

那么，假设目前树的结构已经固定，套用一元二次函数的最值公式，我们可以轻易求出，每个叶子结点的权重 wj* 及其此时达到最优的 Obj 的目标值：

实例演示：

一棵树的生长细节

1. 分裂一个结点

在实际训练过程中，当建立第 t 棵树时，XGBoost采用贪心法进行树结点的分裂：

从树深为0时开始：

对树中的每个叶子结点尝试进行分裂；
每次分裂后，原来的一个叶子结点继续分裂为左右两个子叶子结点，原叶子结点中的样本集将根据该结点的判断规则分散到左右两个叶子结点中；
新分裂一个结点后，我们需要检测这次分裂是否会给损失函数带来增益，增益的定义如下：

如果增益Gain>0，即分裂为两个叶子节点后，目标函数下降了，那么我们会考虑此次分裂的结果。

但是，在一个结点分裂时，可能有很多个分裂点，每个分裂点都会产生一个增益，如何才能寻找到最优的分裂点呢？接下来会讲到。

2. 寻找最佳分裂点

在分裂一个结点时，我们会有很多个候选分割点，寻找最佳分割点的大致步骤如下：

遍历每个结点的每个特征；
对每个特征，按特征值大小将特征值排序；
线性扫描，找出每个特征的最佳分裂特征值；
在所有特征中找出最好的分裂点（分裂后增益最大的特征及特征值）

上面是一种贪心的方法，每次进行分裂尝试都要遍历一遍全部候选分割点，也叫做全局扫描法。

但当数据量过大导致内存无法一次载入或者在分布式情况下，贪心算法的效率就会变得很低，全局扫描法不再适用。

基于此，XGBoost提出了一系列加快寻找最佳分裂点的方案：

特征预排序+缓存：XGBoost在训练之前，预先对每个特征按照特征值大小进行排序，然后保存为block结构，后面的迭代中会重复地使用这个结构，使计算量大大减小。
分位点近似法：对每个特征按照特征值排序后，采用类似分位点选取的方式，仅仅选出常数个特征值作为该特征的候选分割点，在寻找该特征的最佳分割点时，从候选分割点中选出最优的一个。
并行查找：由于各个特性已预先存储为block结构，XGBoost支持利用多个线程并行地计算每个特征的最佳分割点，这不仅大大提升了结点的分裂速度，也极利于大规模训练集的适应性扩展。