最近徒弟接到一个新任务,需要对若干组的csv文件进行两两对比,从而得到两者的差异之处。考虑到工作量巨大无比,如果完全手工完成那必然是费时费力,所以就想到将该工作自动化。考虑到她入行不久,短时间内也无法将其编程实现,所以就帮她来处理这个烫手的山芋。经过调研发现,可使用Python库DataComPy来完成该任务。
1. 安装方法
pip install datacompy
出现下图的Successfully installed datacompy-0.8.1,则说明安装成功:
2. 原理简述
两个DataFrame进行比较,首先可以从两个维度分别进行比较,即从行或者列进行比较。为了方便大家理解,咱们就以行为例来进行简述。假设我们以其中某一列或者若干列构成连接的条件(类似于数据库之间的join on,并将其定义为join_columns),则最终得到的是三大类DataFrame:intersect_rows(join_columns对应的值相等,而其他列不同), df1_unq_rows(df1独有的行), df2_unq_rows(df2独有的行)。
简述如下图所示: