量化策略：梯度提升算法年化收益率达到25%

在机器学习中，提升方法（Boosting）是一种通过组合一群复杂度低，训练的成本低，不容易过度拟合的弱分类器（weak learner），建立N个模型（分类），并且尝试在每次分类中都将上一次分错的数据权重提高一点再进行分类，来获得一个强分类器（strong learner）的方法。
梯度决策提升树（Gradient Boosted Decision Tree，GBDT）是由Friedman等[1]在2001年提出的一种经典的机器学习方法，属于boosting系列算法中的一个代表算法，它是一种迭代的决策树算法，所有树的结论累加起来作为最终答案。GBDT设计的目的为了求解损失函数的优化，具体思路为对损失函数求梯度，以负梯度的方向代入模型的当前值，以当前值作为残差值的近似。它采用了加法模型，通过向着减小残差的方向收敛得到将输入数据分类或回归的模型。下图说明了GBDT的训练过程：

GBDT经多次迭代后收敛，每轮训练多个分类器，每个分类器基于上一次迭代得到的残差础上进行训练。作为集成学习方法的一种，GBDT的基分类器属于弱分类器，需要结构简单且满足低方差、高偏差的条件，这与GBDT的损失函数是基于降低偏差有关;通常来说，GBDT通常以CART TREE作为基分类器，且每棵CART TREE的深度相对较低以保证基分类器的复杂度不会过高。最终将每轮训练得到的基分类器加权求和，得到总的分类器。

按照《量化投资策略：多因子到人工智能》中的步骤&#