学习笔记(10):第三章：集成机器学习-XGBoost的Scikit-Learn接口

最新推荐文章于 2024-06-22 09:37:55 发布
最新推荐文章于 2024-06-22 09:37:55 发布
阅读量229 收藏
点赞数
分类专栏： 研发管理 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/goodluckyangH/article/details/104269643
版权

立即学习:https://edu.csdn.net/course/play/10582/236123?utm_source=blogtoedu

XGBoost 

分类 XGBClassifier

回归 XGBRegressor

排序 XGBRanker

 

learning task parameters 与学习任务有关，如分类回归合排序

objective eval metric seed basescore

 

General parameters 一般参数

基学习器类型、基学习器可选回归树或线性模型

booster silent静默 nthread disable_default eval metric

booster取值gbtree gblinear dart

 

objective 损失函数

 

eval——metric评价指标

 

gblinear L2正则权重 L1正则权重  

gbtree

 

tree Booster 的参数

 

learn_rate 学习率或收缩因子，学习率和迭代次数/弱分器数目

n estimator 弱分类器数目

tree method树的建立算法

grow policy结点增长策略

max depth树的最大深度

max leaves最大叶子数目

max bin直方图最大bin数

sketch eps

min child weight 叶子样本最小权重和

gamma 损失函数下降值的最小值

subsample 采样率

colsample bytree 每棵树所用的特征比例

byleve每隔层分裂所用的特征比例

reg alpha l1正则惩罚系数 lambda l2正则惩罚系数

 

 

 

goodluckyangH
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
XGB-4: 学习排序
uncle_ll的博客
02-07 1131
学习Xgboost中的排序
XGBoost 中XGBClassifier、XGBRegressor、XGBRFRegressor、XGBRanker、XGBRFClassifier的区别
Blog
12-10 1万+
官方文档 其实写这个博客挺蠢的…… 机器学习小白为了确认一下我输入变量的类型是否正确查了一下文档。简单整理一下 Name Use XGBClassifier scikit-learn API for XGBoost random forest classification. XGBRFClassifier scikit-learn API for XGBoost rando...
探索 `xgboostExtension`: 极致的排名与叶指数特性
gitblog_00035的博客
06-22 226
探索 xgboostExtension: 极致的排名与叶指数特性 项目地址:https://gitcode.com/bigdong89/xgboostExtension 在机器学习领域中，XGBoost 凭借其卓越的性能和易用性赢得了广泛的认可。然而，在处理复杂场景如排序或获取树节点特征时，用户往往面临一些挑战。为了解决这些问题并进一步提升 XGBoost 的应用范围，我们为您带来了 xgboos...
用 XGBoost 做 Learning To Rank
comli_cn的博客
10-23 692
训练xgboost排序模型并进行预测的最小实现
【机器学习】Xgboost的使用及参数详解
weixin_43298886的博客
11-16 2万+
Xgboost的原生库 #mermaid-svg-2QkQMijIkIAMOWxw .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-2QkQMijIkIAMOWxw .label text{fill:#333}#mermaid-svg-2QkQMijIkIAMOWxw .node rect,#mermaid-sv
【机器学习】XGBClassifier的默认参数和调参总结
wzk4869的博客
01-19 6141
【机器学习】XGBClassifier的默认参数和调参总结
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》-个人学习笔记及代码
04-02
学习时的笔记及相关代码，...学习来源：Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition, by Aurélien Géron (O’Reilly). Copyright 2019 Aurélien Géron, 978-1-492-03264-9.
机器学习Scikit-Learn和TensorFlow的资料笔记.zip
最新发布
07-24
机器学习Scikit-Learn和TensorFlow的资料笔记.zip机器学习Scikit-Learn和TensorFlow的资料笔记.zip机器学习Scikit-Learn和TensorFlow的资料笔记.zip机器学习Scikit-Learn和TensorFlow的资料笔记.zip机器学习Scikit-...
scikit-learn学习笔记.pdf
06-06
Scikit-learn是Python编程语言中的一个强大机器学习库，被广泛用于数据挖掘、数据分析以及机器学习项目。这个库提供了一系列高效且易于使用的工具，帮助数据科学家进行预处理、建模、评估等任务。 **主要特点：** 1...
机器学习笔记本：使用scikit-learn实现的斯坦福机器学习课程练习
02-05
机器学习笔记本：使用scikit-learn实现的斯坦福机器学习课程练习
机器学习scikit-learn使用笔记
02-24
本文来自于csdn，本文是一篇机器学习Scikit-learn的笔记，主要介绍Scikit-learn的安装和使用，希望会对您的学习有所帮助。sklearn库依赖于numpy、scipy、matplotlib库，首先安装numpy，然后安装scipy、matplotlib库...
sklearn中的XGBClassifier参数详解
热门推荐
lyy的博客
10-23 4万+
前言 1，Xgboost简介 　　Xgboost是Boosting算法的其中一种，Boosting算法的思想是将许多弱分类器集成在一起，形成一个强分类器。因为Xgboost是一种提升树模型，所以它是将许多树模型集成在一起，形成一个很强的分类器。而所用到的树模型则是CART回归树模型。 　　Xgboost是在GBDT的基础上进行改进，使之更强大，适用于更大范围。 　　Xgboost一般和sk...
【XGBoost】第 8 章：XGBoost 替代基础学习器
sikh_0529的博客
09-29 4989
您通过将所有 XGBoost 基础学习器（包括gbtree、dart、gblinear和随机森林）应用于回归和分类数据集，极大地扩展了 XGBoost 的范围。您预览、应用和调整了基础学习者特有的超参数以提高分数。此外，您使用线性构造的数据集和XGBRFRegressor和XGBRFClassifier对gblinear进行了实验，以构建 XGBoost 随机森林，而无需任何增强。现在您已经与所有基础学习者一起工作，您对 XGBoost 范围的理解处于高级水平。
kaggle风控建模实战（XGB+LGB+RF+LR）
机器学习、深度学习、文本分类、异常检测、风控等知识的积累和分享
10-09 1036
本文使用kaggle风控数据集，在数据预处理、特征筛选的基础上，分别使用xgb、lgb、rf、lr构建二分类模型并使用ks、auc指标进行评估比较，提供集成代码及数据集，欢迎交流
task-11 xgb算法实战
baidu_41253024的博客
04-26 687
集成方法主要包括Bagging和Boosting，Bagging和Boosting都是将已有的分类或回归算法通过一定方式组合起来，形成一个更加强大的分类。两种方法都是把若干个分类器整合为一个分类器的方法，只是整合的方式不一样，最终得到不一样的效果。常见的基于Baggin思想的集成模型有：随机森林、基于Boosting思想的集成模型有：Adaboost、GBDT、XgBoost、LightGBM等。 xgboost的工作原理如下 有一个样本[数据->标签]是：[(feature1，featur...
Py之XGBoost：XGBoost库(Kaggle神器)的简介、安装、使用方法之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
01-13 8167
​ Py之XGBoost：XGBoost算法(Kaggle神器)的简介、安装、使用方法之详细攻略 目录 XGBoost算法模型(相关配图)的简介 XGBoost算法模型的代码实现 XGBoost算法模型的安装 XGBoost算法模型的使用方法 XGBoost算法模型的案例应用 相关文章 ML之XGBoost：《XGBoost: A Scalable Tree Boosting System》的翻译与解读 https://yunyaniu.blog.cs
xgboost三种特征重要性选择方法
重剑无锋博客
06-23 5704
XGB 内置的三种特征重要性计算方法1 weight xgb.plot_importance 这是我们常用的绘制特征重要性的函数方法。其背后用到的贡献度计算方法为weight。 ‘weight’ - the number of times a feature is used to split the data across all trees. 简单来说，就是在子树模型分裂时，用到的特征次数。这里计算的是所有的树。这个指标在R包里也被称为frequency2。 gain model.feature_impo
XGBoost 参数查询
tengchengtu4139的博客
08-25 2619
Core XGBoost Library https://xgboost.readthedocs.io/en/latest/python/python_api.html classxgboost.DMatrix(data,label=None,missing=None,weight=None,silent=False,feature_names=None,feature_ty...
xgboost.XGBClassifier， xgboost.train()
liulina603的专栏
12-11 3万+
其中 xgboost.XGBClassifier()利用函数参数设置模型参数，xgboost.train()利用param列表设置模型参数。 准确率：
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值