提升算法
逆光mlz
这个作者很懒,什么都没留下…
展开
-
XGBoost及随机森林处理kaggle—Titanic数据实战
一、什么是XGBoost XGBoost是使用梯度提升框架GBDT实现的高效、灵活、可移植的机器学习库,是GBDT的一个C++实现。它将树的生成并行完成,从而提高学习速度。一般来说,XGBoost的速度和性能都要优于skearn.ensamble.GradientBoostingClassifier类。 官网为https://xgboost.readthedocs.io/en/latest/ 二、...原创 2018-12-04 19:37:01 · 1825 阅读 · 1 评论 -
提升boosting之Adaboost算法原理
AdaBoost实则是模型为加法模型、损失函数为指数函数、学习算法为前向分步算法时的二类学习方法。具体过程如下: 1.设训练数据集T 2.初始化训练数据的权值分步 3.使用具有权值分步为Dm的训练数据集学习,得到基本分类器 4.计算GM(x)在训练数据集上的误差率 5.计算GM(x)的系数 6.更新训练数据集的权值分步 7.注意 这里的Zm是规范化因子 目的是使权值和为1 8.构建基本分类...原创 2018-12-03 20:47:08 · 150 阅读 · 0 评论