使用 pandas 分块处理大文件

关注RPA请访问网站：
www.i-search.com.cn
学Python,用RPA,欢迎下载使用
https://www.i-search.com.cn/?from=csdn

使用 pandas 分块处理大文件
问题：今天在处理系统导出的 70 万行数据。打开文件进行读取时因超过默认读取上限导致流程出错，如果要处理不知得多费劲。

解决：我翻了一下文档，这一类读取文件的函数有两个参数：chunksize，iterator

原理就是不一次性把文件数据读入内存中，而是分多次。

1，指定 CHUNKSIZE 分块读取文件
read_csv 和 read_table 有一个 chunksize 参数，用以指定一个块大小（每次读取多少行），返回一个可迭代的 TextFileReader 对象。

table=pd.read_table(path+‘kuaishou.txt’,sep=’\t’,chunksize=1000000)
for df in table:
对df处理
#如df.drop(columns=[‘page’,‘video_id’],axis=1,inplace=True)
#print(type(df),df.shape)打印看一下信息

我这里又对文件进行了划分，分成若干个子文件分别处理（没错，to_csv 也同样有 CHUNKSIZE 参数）

2，指定迭代 = 真
iterator=True 报道查看同样的的英文 TextFileReader 对象

reader = pd.read_table(‘tmp.sv’, sep=’\t’, iterator=Tr