NGBoost：用于概率预测的自然梯度提升

最新推荐文章于 2023-08-24 10:00:00 发布
最新推荐文章于 2023-08-24 10:00:00 发布
阅读量1.3k 收藏 8
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/mrjkzhangma/article/details/102614762
版权

在此论文中，来自斯坦福的研究者们提出了 NGBoost 梯度提升方法以解决现有梯度提升方法难以处理的通用概率预测中的技术难题。

自然梯度提升（NGBoost / Natural Gradient Boosting）是一种算法，其以通用的方式将概率预测能力引入到了梯度提升中。预测式不确定性估计在医疗和天气预测等很多应用中都至关重要。概率预测是一种量化这种不确定性的自然方法，这种模型会输出在整个结果空间上的完整概率分布。梯度提升机（Gradient Boosting Machine）已经在结构化输入数据的预测任务上取得了广泛的成功，但目前还没有用于实数值输出的概率预测的简单提升方案。NGBoost 这种梯度提升方法使用了自然梯度（Natural Gradient），以解决现有梯度提升方法难以处理的通用概率预测中的技术难题。这种新提出的方法是模块化的，基础学习器、概率分布和评分标准都可灵活选择。研究者在多个回归数据集上进行了实验，结果表明 NGBoost 在不确定性估计和传统指标上的预测表现都具备竞争力。
在这里插入图片描述

链接：https://arxiv.org/pdf/1910.03225v1.pdf

引言

很多真实世界的监督机器学习问题都具有表

最低0.47元/天 解锁文章
Mr.Jk.Zhang
关注
  • 0
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ngboost：用于概率预测的自然梯度增强
02-03
NGBoost：用于概率预测的自然梯度提升 ngboost是一个Python库，实现了“自然梯度增强”，如。 它建立在，旨在针对适当的评分规则，分布和基础学习者的选择进行扩展和模块化。 在此可以对NGBoost的基本方法进行详尽的介绍。 安装 via pip pip install --upgrade ngboost via conda-forge conda install -c conda-forge ngboost 用法 波士顿住房数据集上的概率回归示例： from ngboost import NGBRegressor from sklearn . datasets import load_boston from sklearn . model_selection import train_test_split from sklearn . metrics import mean_squared_error X , Y = load_boston ( True ) X_train , X_test , Y_train , Y_test = train_test_split
探索NgBoost：斯坦福大学的高效概率预测库
最新发布
gitblog_00026的博客
03-25 502
探索NgBoost：斯坦福大学的高效概率预测库 项目地址:https://gitcode.com/stanfordmlgroup/ngboost NgBoost是一个由斯坦福大学机器学习组开发的开源Python库，专门用于进行概率预测。该项目基于斯科特·诺伊斯特特（Scott N. Nelson）和乔纳森·D. 洛夫茨（Jonathan D. Love）在2019年提出的NgBoost算法，它是一...
斯坦福吴恩达团队提出NGBoost：用于概率预测的自然梯度提升
AI蜗牛车
11-24 1016
选自arXiv作者：Tony Duan、Anand Avati等机器之心编译在此论文中，来自斯坦福的研究者们提出了NGBoost 梯度提升方法以解决现有梯度提升方法难以处理的通用概率预测中的技术难题。自然梯度提升（NGBoost / Natural Gradient Boosting）是一种算法，其以通用的方式将概率预测能力引入到了梯度提升中。预测式不确定性估计在医疗和天气预测等很多应用中都至关...
论文解读12——NGBoost: Natural Gradient Boosting for Probabilistic Prediction
对流层的酱猪肘~的博客
01-17 1001
由吴恩达团队提出的NGBoost是一种通过梯度提升进行概率预测的算法，与经典的回归模型返回一个点估计结果不同，概率回归模型返回全概率分布，将条件分布的参数视为多参数提升算法的目标，将梯度提升推广到概率回归，允许对不确定性进行预测估计。
【NGBoost实战】
qq_46256922的博客
05-17 618
ngboost分类实战代码
CosineGradient：用于Unity的余弦梯度生成器
02-06
CosineGradient是一个Unity软件包，用于生成基于余弦的渐变。 基于余弦的梯度的思想基于ÍñigoQuílez撰写的文章。 有关更多详细信息，请参见。 安装 该程序包使用功能来解决程序包依赖性。 请将以下部分添加到...
xgboost:Ruby的高性能梯度提升
04-11
XGBoost 高性能渐变增强-适用于Ruby 安装 将此行添加到您的应用程序的Gemfile中： gem 'xgb' 在Mac上，还要安装OpenMP： ... 预测 dtest = XGBoost :: DMatrix . new ( x ) booster . predict
lightgbm:Ruby的高性能梯度提升
05-03
轻型GBM 高性能渐变增强-适用于Ruby安装将此行添加到您的应用程序的Gemfile中： gem 'lightgbm' 在Mac上，还要安装... train ( params , train_set ) 预测booster . predict ( x ) 将模型保存到文件booster . save_mode
基于梯度提升树的短期用电负荷预测系统设计
01-12
为了解决传统短期用电负荷预测系统存在响应时间慢、预测精度差的问题，设计了一种基于梯度提升树的短期用电负荷预测系统。该系统框架采用C/S架构模式搭建，根据预测需求选择系统的组成硬件，并以梯度提升树为核心，...
Adaboost分类器 haar特征 整理
热门推荐
liulina603的专栏
03-04 2万+
Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器(强分类器)。 其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。 将修改过权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类器最后融合起来，作为最后的决策分类
利用python中的xgboost对超市销量进行预测
11-19
资源包括某超市四个月的各大中小类的销售记录，代码利用星期特征，去除噪声，用xgboost进行预测，代码中包含了一些基础的分析方法，可供新手参考。
Python库 | ngboost-0.3.7.tar.gz
04-12
资源分类：Python库 所属语言：Python 资源全名：ngboost-0.3.7.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
清华镜像源安装 NGboost XGboost Catboost
01-06
清华镜像源安装 NGboost XGboost Catboost pip install catboost -i https://pypi.tuna.tsinghua.edu.cn/simple pip install ngboost -i https://pypi.tuna.tsinghua.edu.cn/simple pip install xgboost -i https://pypi.tuna.tsinghua.edu.cn/simple 数据比赛常用预测模型：LGB、XGB与ANN LGB lightgbm：由于现在的比赛数据越来越大，想要获得一个比较高的预测精度，同时又要减少内存占
【学习笔记】ngboost安装填坑(当我们使用 pip 等简单的命令行方式无法下载或总会出现这样那样的错误时，不妨将该 package 发布在 git 上的项目 clone 下来，然后手动安装)
KaelCui的博客
08-22 572
P.S:这个用pip和conda安装没有成功，最后是从github上面下载下来安装的 当我们使用 pip 等简单的命令行方式无法下载或总会出现这样那样的错误时，不妨将该 package 发布在 git 上的项目 clone 下来，然后手动安装。 step 1：git clone 到本地 git clone git@github.com:stanfordmlgroup/ngboost.git step2: python setup.py install cd xx # 切换到刚才本地git仓库存放的位置
集成学习——NGBoost论文研读与原理理解
weixin_44750583的博客
01-18 6580
NGBoost是最新的Boosting方法，它是2019年10月斯坦福团队在arxiv上发表的，
十三、机器学习四大神器之XGBoost、LightGBM、Catboost和NGBoost
s_daqing的博客
07-02 2507
**前言：**XGBoost、LightGBM 和 Catboost 是三个基于 GBDT（Gradient Boosting Decision Tree）代表性的算法实现 GBDT 是机器学习中的一个非常流行并且有效的算法模型 XGBoost（eXtreme Gradient Boosting）：2014 年陈天奇博士提出的， 特点是计算速度快，模型表现好，可以用于分类和回归问题中 LightGBM（Light Gradient Boosting Machine：）由微软开源的一个机器学习框架，它的训练
NGBoost参数详解及实战
机器学习、深度学习、文本分类、异常检测、风控等知识的积累和分享
08-24 1584
ngboost，继xgboost、lightGBM、catboost之后boosting家族的新成员，拥有更高的精度、不过由于计算复杂度高导致训练和推理速度更慢。本文详细其介绍原理、参数及代码实战，一文即可掌握。
python梯度提升树预测
08-06
使用Python进行梯度提升树预测可以使用scikit-learn库中的GradientBoostingRegressor（回归问题）或GradientBoostingClassifier（分类问题）类来实现。 首先，你需要导入所需的库和模块： ```python from sklearn.ensemble import GradientBoostingRegressor, GradientBoostingClassifier from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error, accuracy_score ``` 然后，你需要准备你的训练数据和测试数据，并将它们分割为特征矩阵（X）和目标变量（y）。 接下来，你可以实例化一个梯度提升树模型，并设置相关的超参数。例如： ```python model = GradientBoostingRegressor(n_estimators=100, learning_rate=0.1, max_depth=3) ``` 然后，你可以使用训练数据来拟合模型： ```python model.fit(X_train, y_train) ``` 之后，你可以使用训练好的模型对测试数据进行预测： ```python y_pred = model.predict(X_test) ``` 最后，你可以使用适当的评估指标来评估模型的性能。对于回归问题，你可以使用均方误差（Mean Squared Error）： ```python mse = mean_squared_error(y_test, y_pred) ``` 对于分类问题，你可以使用准确率（Accuracy）： ```python accuracy = accuracy_score(y_test, y_pred) ``` 以上就是使用Python进行梯度提升树预测的基本步骤。你可以根据具体的问题和数据集进行调整和优化模型。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值