python 中pandas 只不模块中的duplicated方法返回一个布尔型的series,显示各行是否有重复行,没有重复行显示为FALSE,有重复行显示为TRUE;
再利用DataFrame中的drop_duplicates方法用于返回一个移除了重复行的DataFrame。
如果duplicated方法和drop_duplicates方法中没有设置参数,则这两个方法默认会判断全部咧,如果在这两个方法中加入了指定的属性名(或者称为列名),例如:frame.drop_duplicates(['state']),则指定部分列(state列)进行重复项的判断
import pandas as pd
data = {'state':[1,1,2,2],'pop':['a','b','c','d']}
frame = pd.DataFrame(data)
print(frame)
IsDuplicated=frame.duplicated()
print(IsDuplicated)
frame=frame[['state','pop']].drop_duplicates()
print(frame)
ds = ds[ds.duplicated(['use_ID', 'time'], keep=False)]#将重复项标为true