数据挖掘中的那些trick(持续更新)

本文探讨了数据挖掘中的关键步骤,包括数据清洗的缺失值填充和异常值处理,以及特征编码的one-hot encoding方法。在数据清洗中,介绍了根据特征分布选择平均值或中位数填充缺失值,以及利用箱形图法识别和处理异常值。对于特征编码,解释了为何不能直接用数值编码类别型特征,并展示了如何使用独热编码避免引入偏见。最后提到了特征筛选的重要性。
摘要由CSDN通过智能技术生成

1.数据清洗

1.1 缺失值填充

在数据挖掘竞赛中,由于xgb、lgb的强大功能,很多时候训练模型并不需要对缺失值进行填充。
对于缺失量达到一定比例的特征,可以考虑将其舍弃。但在EDA作图或是REFCV特征筛选时,要求不能存在缺失数据,因此有时还是要对缺失值进行填充。
简单的缺失值填充可以参考以下原则:

  • 特征服从正太分布时,采用平均值进行填充;
  • 而当分布不呈正太分布时(大多数是长尾分布),使用中位数效果比较好。
dataset[feature].fillna(dataset[feature].mean())
dataset[feature].
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值