qq_44989982的博客

原创 梯度提升机（Gradient Boosting Machine，简称GBM）

梯度提升机（Gradient Boosting Machine，简称GBM）是一种强大的机器学习算法，常常用于分类和回归问题。它基于"集成学习"（Ensemble Learning）的思想，通过结合多个"弱学习器"（通常是决策树）构建一个"强学习器"。在实际使用中，梯度提升机的效果非常好，特别是对于表格数据，这使得它成为Kaggle等数据科学比赛中的常胜将军。梯度提升的基本思想是，每一次迭代，都训练一个新的模型，来预测前一次迭代的模型的残差（真实值与预测值之差）。