数据清洗步骤

数据清洗可以通过5步做好:

1.把所有非数值变量转为数值变量含有人类知识的变量根据先验知识转化(比如日期转化为天数、年、月、日等,地理转化为经纬度、城市等级等,定序变量保留序数),不含有先验知识的非数值变量通过one-hot encoding一律转成0-1哑变量,此时所有变量都是数值型的了。

2.把一系列相似变量可以用统计量概括或补充(比如不同时期第三方信息、几个城市等用均值方差之类的信息)。

3.删掉那些空值与同一值占比过多的稀疏变量。

4.删掉共线变量 。

5.把空值填充好(中位数或平均数等),然后标准化。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Jupyter是一个开源的交互式笔记本,常用于数据分析和数据清洗。下面是一般的数据清洗步骤: 1. 导入数据:首先需要导入需要清洗的数据文件,可以使用pandas库中的read_csv()函数来读取CSV文件,或者使用其他适合的函数来读取其他格式的文件。 2. 数据观察与理解:通过使用head()、tail()等函数来查看数据的前几行和后几行,使用info()函数来查看数据的基本信息,例如数据类型、缺失值等。还可以使用describe()函数来获取数据的统计摘要。 3. 处理缺失值:检查数据中是否存在缺失值,可以使用isnull()函数来查找缺失值,并使用fillna()函数来填充缺失值,或者使用dropna()函数来删除包含缺失值的行或列。 4. 处理重复值:使用duplicated()函数来查找重复值,并使用drop_duplicates()函数来删除重复值。 5. 数据类型转换:根据需要,可以使用astype()函数将某些列的数据类型转换为其他类型,例如将字符串转换为数值型。 6. 数据筛选与过滤:根据需求,可以使用条件语句和逻辑运算符来筛选和过滤数据,例如使用loc[]或者query()函数来选择满足特定条件的行或列。 7. 数据排序:使用sort_values()函数对数据进行排序,可以按照某一列或多列进行升序或降序排序。 8. 数据重塑:使用pivot_table()函数或者melt()函数来进行数据的重塑和转换,例如将宽表转换为长表或者将长表转换为宽表。 9. 数据合并与拼接:使用merge()函数或者concat()函数来合并多个数据集,可以按照某一列或多列进行连接。 10. 数据保存:最后,使用to_csv()函数将清洗后的数据保存为CSV文件或者其他格式的文件。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值