其实最终我去遍历dataframe然后拼 ‘not in’ 的sql去了。😂
这种方式(百度看到的)应该跑起来挺快的,记录一下,下次实验一下。
import pandas as pd
df1=pd.DataFrame({'authorID':['12','34','56']})
df2=pd.DataFrame({'authorID':['12','56','78','97']})
original_users=set(df1[['authorID']].values.reshape(-1))
for i in df2[['authorID']].values.reshape(-1):
if i not in original_users:
print(i)
还有一种也是百度看到的,这个方式是把想对比的对象拼接在一起,然后把重复项删除。。还得拼两次,要不然把原本自己没有的项也带进来了,但是我觉得如果数据量一大起来,估计会卡死,这种弃用。
>>> import pandas as pd
>>> data_a={'state':[1,1,2],'pop':['a','b','c']}
>>> data_b={'state':[1,2,3],'pop':['b','c','d']}
>>> a=pd.DataFrame(data_a)
>>> b=pd.DataFrame(data_b)
>>> a
state pop
0 1 a
1 1 b
2 2 c
>>> b
state pop
0 1 b
1 2 c
2 3 d
>>> a=a.append(b)
>>> a=a.append(b)
>>> a
state pop
0 1 a
1 1 b
2 2 c
0 1 b
1 2 c
2 3 d
0 1 b
1 2 c
2 3 d
>>> a.drop_duplicates(subset=['state','pop'],keep=False)
state pop
0 1 a