![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
学习笔记类
数据科学->打怪中
这个作者很懒,什么都没留下…
展开
-
随机森林算法梳理
1. 集成学习概念通过构建并组合多个学习器来完成学习任务的过程即为集成学习。集成学习通过将多个学习器进行结合,常获得比单一学习器显著优越的泛化性能。2.个体学习器概念个体学习器的概念是相对集成学习而言,表示集成学习中的一种学习器,根据个体学习器是否是同类型的学习器,分为同质和异质。3. boosting与baggingboosting:是一族可将弱学习器提升为强学习器的算法。...原创 2019-03-01 00:30:29 · 177 阅读 · 0 评论 -
XGB算法梳理
1CART树CART全称为Classification And Regression Tree,分类和回归即是该算法的核心。分类算法在于生成决策树,CART为递归算法,总是将当前样本(not pure)分为两个子样本集,使得生成的每个非叶子节点都有两个分支,最终得到二叉树形式的决策树。分类回归树是一棵二叉树,且每个非叶子节点都有两个孩子,所以对于第一棵子树其叶子节点数比非叶子节点数多...原创 2019-03-05 21:24:51 · 987 阅读 · 0 评论 -
GBDT算法梳理
梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT),是多棵树的输出预测值的累加,GBDT的树都是回归树。GBDT的思想可以用一个通俗的例子解释,假如有个人30岁,我们首先用20岁去拟合,发现损失有10岁,这时我们用6岁去拟合剩下的损失,发现差距还有4岁,第三轮我们用3岁拟合剩下的差距,差距就只有一岁了。如果我们的迭代轮数还没有完,可以继续迭代下面,每...原创 2019-03-03 20:40:33 · 222 阅读 · 0 评论