数据清洗主要处理三类值:重复值、缺失值以及异常值。
- 重复值:
重复值的处理主要用到了drop_duplicates()
函数,该函数适用DataFrame格式的数据,去除特定列下面的重复行。返回DataFrame格式的数据。
函数:
df.drop_duplicates(subset=None, keep=‘first’, inplace=False)
参数说明:
subset : column label or sequence of labels, optional
用来指定特定的列,默认所有列
keep : {‘first’, ‘last’, False}, default ‘first’
删除重复项并保留第一次出现的项
inplace : boolean, default False
是直接在原来数据上修改还是保留一个副本
1.df.drop_duplicates() 不指定任何参数
2.df.drop_duplicates(subset=[‘one’]) 指定subset参数
3.df.drop_duplicates(keep=‘last’) 指定keep参数为last