- 博客(3)
- 收藏
- 关注
RSS订阅原创 XGB算法梳理
1CART树 CART全称为Classification And Regression Tree，分类和回归即是该算法的核心。分类算法在于生成决策树，CART为递归算法，总是将当前样本（not pure）分为两个子样本集，使得生成的每个非叶子节点都有两个分支，最终得到二叉树形式的决策树。 分类回归树是一棵二叉树，且每个非叶子节点都有两个孩子，所以对于第一棵子树其叶子节点数比非叶子节点数多...
2019-03-05 21:24:51
970
原创 GBDT算法梳理
梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)，是多棵树的输出预测值的累加，GBDT的树都是回归树。 GBDT的思想可以用一个通俗的例子解释，假如有个人30岁，我们首先用20岁去拟合，发现损失有10岁，这时我们用6岁去拟合剩下的损失，发现差距还有4岁，第三轮我们用3岁拟合剩下的差距，差距就只有一岁了。如果我们的迭代轮数还没有完，可以继续迭代下面，每...
2019-03-03 20:40:33
216
原创 随机森林算法梳理
1. 集成学习概念 通过构建并组合多个学习器来完成学习任务的过程即为集成学习。集成学习通过将多个学习器进行结合，常获得比单一学习器显著优越的泛化性能。 2.个体学习器概念 个体学习器的概念是相对集成学习而言，表示集成学习中的一种学习器，根据个体学习器是否是同类型的学习器，分为同质和异质。 3. boosting与bagging boosting:是一族可将弱学习器提升为强学习器的算法。...
2019-03-01 00:30:29
174
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人