![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
ML
MingSun95
这个作者很懒,什么都没留下…
展开
-
Ensemble 概念入门
Ensemble methods概念 所谓Ensemble methods,就是把几种机器学习的算法组合到一起,或者把一种算法的不同参数组合到一起。基本上分为如下两类:Averaging methods(平均方法),就是利用训练数据的全集或者一部分数据训练出几个算法或者一个算法的几个参数,最终的算法是所有这些算法的算术平均。比如Bagging Methods(装袋算法),Forest of Ran原创 2017-08-09 14:34:05 · 1188 阅读 · 0 评论 -
笔记(機器學習技法):Random Forest
Feature selection permutation test的原理(随机排序的方式来测试某个特征的重要性):原本的表现-该特征数据的随机打乱后的表现。 在面对非线性的问题的时候会首先用Random Forest来进行初步的特征选择。Random Forest in Action 上图一:一棵树划分情况,图二(bagging的小树的结果):bootstrap随机产生的一颗树的情况原创 2017-08-10 20:59:34 · 280 阅读 · 0 评论 -
Ubuntu+xgboost
git clone –recursive https://github.com/dmlc/xgboost expoort PYTHONPATH=~/xgboost/python-package python -c “import xgboost as xgb”原创 2017-08-19 10:26:23 · 259 阅读 · 0 评论 -
Windows下安装python版的XGBoost(Anaconda)
原文链接:http://blog.csdn.net/leo_xu06/article/details/52300869 需要用到三个软件: python软件(本文基于Anaconda,因为自带很多库,比较方便) Git for Windows MINGW 假设都已经安装好了Anaconda,建议安装python2版本的,虽然python3也可以,但python2较为主流。再安装Gi转载 2017-10-21 21:53:17 · 415 阅读 · 0 评论 -
LightGBM
1,研究动机当特征维度很高或数据量很大时,获取最佳分割点十分耗时,主要的原因是对于每个特征,都需要扫描整个数据集得到分割点。为解决此问题,提出两个解决措施:基于梯度的one-side采样(Gradient-based One-Side Sampling)和互斥的特征捆绑(Exclusive Feature Bundling)。2,相关工作搜索最佳分割点贪心搜索法:通过预排序找到分割点,这种...原创 2019-05-05 14:44:44 · 229 阅读 · 0 评论