python pandas 获取指定文件夹下的csv文件,进行文件的合并,并去除两文件中重复的行

python获取指定文件夹下的csv文件,进行文件的合并,并去除两文件中重复的行

import pandas as pd

def mergerF(data_dir,csv_list,save_dir,save_file):
     print(u'total%s CSV files'% len(csv_list))
    for i in csv_list:
        fr = open(data_dir + i,'r').read()
        with open(save_dir+save_file,'a') as f:
            f.write(fr)
    print(u'complete merger!')
    
#drop duplicates after merging
def drop_dup(save_dir,save_file):
    df = pd.read_csv(save_dir+save_file,header=0)
    datalist = df.drop_duplicates()
    datalist.to_csv(save_dir+save_file)
    
data_dir ='./data/'#The path of the file to be merged
out_dir='./data/merger/'# save path after merging
csv_list = ['a.csv','b.csv'] # file name to be merged
save_file = 'mergered.csv'# file name for after merging

mergerF(data_dir,csv_list,save_dir,save_file)
drop_dup(save_dir,save_file)
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值