集成学习 | 集成学习思想:Stacking思想

本文介绍了Stacking集成学习的思想,包括其两层结构(基学习器和元学习器),以及如何通过训练多个模型并将它们的输出作为新模型的输入来提高预测性能。文章还讨论了Stacking如何涵盖Ensemble方法,并通过实例说明了数据处理过程。
摘要由CSDN通过智能技术生成

一. Stacking 思想

Stacking(或stacked generalization),是指训练一个模型用于组合(combine)其他各个模型

	Stacking有两层
		第一层是不同的基学习器(classifiers/regressors)
		第二层是用于组合基学习器的元学习(meta_classifier/meta_regressor)

Stacking训练:
首先训练多个不同的模型,随后再以之前训练的各个模型的输出为输入来训练一个新模型,以得到一个最终的输出

	理论上,Stacking可以表示前面提到的各种Ensemble方法
	实际中,我们通常使用单层logistic回归(分类问题)或者 Ridge(回归问题)作为第二层模型

在这里插入图片描述

图片解释:
对数据集进行k折训练,其预测值为用来获取第二层模型的训练集

当第一层训练数据为1w条时,每个基学习器相应得到1w条预测值

当基学习器有N个时,第二层样本的训练集shape为 (1w*N)

在这里插入图片描述


感谢阅读🌼
如果喜欢这篇文章,记得点赞👍和转发🔄哦!
有任何想法或问题,欢迎留言交流💬,我们下次见!
本文相关代码存放位置
    【Stacking思想

祝愉快🌟!


  • 4
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ToBeCertain

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值