我的源数据在TSV文件中,6列和大于2百万行。
这里是我想要完成:
>我需要读取这个源文件中的3列(3,4,5)中的数据
>第五列是一个整数。我需要使用此整数值来复制行条目,使用第三和第四列中的数据(乘以整数倍数)。
>我想将#2的输出以CSV格式写入输出文件。
下面是我想出的。
我的问题:这是一个有效的方式吗?它似乎可能是密集的,当尝试200万行。
首先,我做了一个示例选项卡单独的文件来工作,并称之为“sample.txt”。它是基本的,只有四行:
Row1_Column1 Row1-Column2 Row1-Column3 Row1-Column4 2 Row1-Column6
Row2_Column1 Row2-Column2 Row2-Column3 Row2-Column4 3 Row2-Column6
Row3_Column1 Row3-Column2 Row3-Column3 Row3-Column4 1 Row3-Column6
Row4_Column1 Row4-Column2 Row4-Column3 Row4-Column4 2 Row4-Column6
然后我有这个代码:
import csv
with open('sample.txt','r') as tsv:
AoA = [line.strip().split('\t') for line in tsv]
for a in AoA:
count = int(a[4])
while count > 0:
with open('sample_new.csv','ab') as csvfile:
csvwriter = csv.writer(csvfile, delimiter=',')
csvwriter.writerow([a[2], a[3]])
count = count - 1