python替换缺失值_详解Pandas 处理缺失值指令大全

本文详细介绍了如何使用Pandas库处理数据中的缺失值,包括检测NAN和None,滤除、填充缺失数据,以及数据转换如移除重复数据、映射、替换和创建数据的修改版。还提到了哑变量编码在机器学习中的应用。
摘要由CSDN通过智能技术生成

前言

运用pandas 库对所得到的数据进行数据清洗,复习一下相关的知识。

1 数据清洗

1.1 处理缺失数据

对于数值型数据,分为缺失值(NAN)和非缺失值,对于缺失值的检测,可以通过Python中pandas库的Series类对象的isnull方法进行检测。

对于缺失值,除了np.nan来表示,还可以用None来表示缺失值

1.2 滤除掉缺失数据

1.2.1 对于Series

使用dropna方法将NAN的数据过滤掉。

另一种方法是使用布尔值索引对NAN数据进行过滤:

1.2.2 对于DataFrame

dropna()方法对于DataFrame的数据来说,会将含有NAN数据的行全部扔掉。

如果只想删除掉那些行中全部为NAN数据的DataFrame,通过设置dropna()方法中的参数how即可。

如果操作对象变为列,代码如下:

如果想留下其中的一部分数据,则可以设置thresh参数:

thresh = n,参数n相当于保留至少含有n个非NA的行

1.3 填充缺失数据

fillna(n),n替换掉NA

如果填充格式是字典,fillna({0:n1,1:n2}),将列0的NA填充为 n1,将列1的NA填充为 n2。

直接填充df的NA值,直接改变df,不需要命名新的变量。

2 数据转换

2.1 移除重复数据

返回的是每一行的重复结果,不重复是False,重复是True。

如果要去除重复的行,代码如下:

如果操作对象为列࿰

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值