spark 特征工程 -- 分箱 Binning(如何实现等频、等宽分箱)


分箱操作简介

目的

分箱就是将连续变量离散化,合并成较少的状态

分箱操作的种类

  1. 等频分位数分箱

指定默认分箱个数后,将数据分箱到每个箱中并且每个箱中的数据量大致相等

  1. 等宽分箱

指定默认分箱个数后,按照列中的最小值到最大值之间,将数据N等分,数据分到每个箱中,和等频分箱相比每个箱中的数据量不固定

  1. 自定义区间 - 自定义区间分箱

一般来说仅针对对数据值列有效 - 连续特征自定义分箱区间,每条区间以;隔开。

每列的区间类似[col:]-inf,2.0,3.0,inf指定。
第一条自定义区间为对所有选定列的默认规则。
例子:

a_1:1.0,2.0;3.0, 4.0

即定义了[1.0,2.0]和[3.0,4.0]两个分箱区间

  1. 决策树分箱 DECISIONTREE

决策树分箱的原理就是用想要离散化的变量单变量用树模型拟合目标变量,例如直接使用sklearn提供的决策树(是

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

shiter

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值