python完全重复数据去重_Python对多属性的重复数据去重实例

Python对多属性的重复数据去重实例

发布时间：2020-10-03 02:54:12

来源：脚本之家

阅读：64

作者：I天辉I

python中的pandas模块中对重复数据去重步骤：

1)利用DataFrame中的duplicated方法返回一个布尔型的Series,显示各行是否有重复行，没有重复行显示为FALSE，有重复行显示为TRUE；

2)再利用DataFrame中的drop_duplicates方法用于返回一个移除了重复行的DataFrame。

注释：

如果duplicated方法和drop_duplicates方法中没有设置参数，则这两个方法默认会判断全部咧，如果在这两个方法中加入了指定的属性名(或者称为列名)，例如：frame.drop_duplicates(['state']),则指定部分列(state列)进行重复项的判断。

具体实例如下：

>>> import pandas as pd

>>> data={'state':[1,1,2,2],'pop':['a','b','c','d']}

>>> frame=pd.DataFrame(data)

>>> frame

pop state

0 a 1

1 b 1

2 c 2

3 d 2

>>> IsDuplicated=frame.duplicated()