python 逐一追加指定的字符串到csv文件,并且校验去重

背景:

使用python下载哨兵1数据,对于下载失败的文件,会在最后生成一组日志,我需要根据这个日志信息来对比源文件,把失败的数据,重新生成需要下载的数据csv。

解决方案:

当在下载报错的时候,就把这个文件名添加在指定的一个csv文件里面,这样程序跑完或者没跑完,我就知道失败的都有那些了。

脚本如下:

import csv

dataSet = []


def getFailedList(fileName):
    # 传入的字符串追加到csv中
    if [fileName] not in dataSet:
        print('不存在当前元素,可以添加')
        with open('failList.csv', 'a', encoding="utf-8") as f:
            writer = csv.writer(f)
            writer.writerow([fileName])
    else:
        print('已有元素,不添加')


def getfails(csv_name):
    with open(csv_name, 'r', encoding="utf-8") as f:
        csv_reader = csv.reader(f)
        rows = [row for row in csv_reader]
        return rows


try:
    dataSet = getfails('failList.csv')
    getFailedList('2')
except IOError:
    getFailedList('22')

解释说明:

1.引入csv库来处理csv文件,先执行getfails函数,读取保存失败文件的csv,如果不存在,会走except,直接执行生成文件并且添加的函数 getFailedList,这样可以保证这个保存失败数据的csv是存在的。

2. 定义dataSet来记录当前失败的数据list, 然后在每次插入数据之前比对一下,如果不存在就插入,如果存在就跳过。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值