python只取某两列_Python Dataframe 指定多列去重、求差集的方法

1)去重

指定多列去重，这是在dataframe没有独一无二的字段作为PK(主键)时，需要指定多个字段一起作为该行的PK，在这种情况下对整体数据进行去重。

Attention：主要用到了drop_duplicates方法，并设置参数subset为多个字段名构成的数组。

具体代码如下：

>>>import pandas as pd

>>>data={'state':[1,1,2,2,1,2,2],'pop':['a','b','c','d','b','c','d']}

>>>frame=pd.DataFrame(data)

>>>frame

popstate

0a1

1b1

2c2

3d2

4b1

5c2

6d2

>>>frame.drop_duplicates(subset=['pop','state'])

popstate

0a1

1b1

2c2

3d2

2)求差集

假设有两个dataframe为a和b，a和b可以是相互包含的关系，现在想要将a中和b重复的内容去掉，也就是求差集，步骤如下：

(1)需要对两个dataframe进行去重。

(2)利用append方法，a=a.append(b)