- 博客(3)
- 收藏
- 关注
RSS订阅原创 xgboost-lightgbm-----第三步---adaboost
今天先看到adaboost，是boosting算法里面比较经典的吧，下一步是GDBT然后XGBOOST和light gbm吧，大概是这个过程，因为要找工作了。原理性的东西要复习一下。(先说明，我很菜，很菜，批判的看吧）（忽然想到个问题，就是西瓜树上面搞了好久的西瓜也没有给出个模型，让我们在买西瓜的时候有所依据，可见这行里面实践起来数据的获取，处理还是很累人，没人想干，都想只拿着现有的数据做处理。其...
2018-06-06 16:33:18
160
原创 xgboost-light-gbm学习第一步---决策树
决策树就是树，然后根据条件开始分叉，主要是根据信息方面的三种方法进行分叉，首先是信息熵的概念。Ent(D)=-pk log2 pk 的累加，一共分k类，（找不到累加符号）信息熵是接下来三种分叉方法的基础，代表样本中纯度，纯度越高，熵越低，决策树的分叉一般没有明确说是二叉树，可以是多叉树，但是在算法实现中很可能会用二叉树，因为写起来方便（个人猜测）1.信息增益信息增益就是分叉前的熵减去分叉后每个枝杈...
2018-06-06 09:37:56
339
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人