Python本地文件合并（csv）

在本地目录中打开该文件：

二、单个文件夹底下多个文件合并

=============================================================================

csv_list=glob.glob(‘…/input/covid19temp/2020/*.csv’)

如果不加上的话拿到的就是目录的名称，如果加上，拿到的就是完整的目录数据

print(csv_list)

for i in csv_list:

fr=open(i,‘r’).read()

with open(‘2020csvdata.csv’,‘a’) as f:

f.write(fr)

f.close()

print(‘数据文件合并完成！’)

csv_list=glob.glob(‘…/input/covid19temp/2020/*’)

for i in csv_list:

fr=open(i,‘rb’).read()

with open(‘2020csvdata2.csv’,‘ab’) as f:

f.write(fr)

f.close()

print(‘数据文件合并完成！’)

csv_list=glob.glob(‘…/input/covid19temp/2020/*’)

csvdatadf=pd.DataFrame()

for i in csv_list:

csvdata=pd.read_csv(i)

csvdatadf=csvdatadf.append(csvdata)

print(‘数据文件合并完成！’)

合并之后使用pd.read_csv读取文件数据，一共有20W+的疫情数据记录：

三、多个文件夹底下多个文件合并

=============================================================================

import os

import pandas as pd

import glob

import openpyxl

import numpy as np

path=‘…/input/covid19temp’ # 写的路径

csv_lists=[] # 该列表的作用

是否更新目录判断：

if os.path.isdir(path): #使用os.path.isdir判断path是否是路径

if not path.endswith(“/”):# 如果该路径的最后没有加上’/'的话，会帮忙加一个/

path+=“/”

print(path)

如上图所示，路径后面多了一个 ‘/’，否则路径会找不到

文件操作：

1. os.listdir()： 列出路径下所有的文件

2. os.path.join()： 连接文件的作用

3. os.path.isdir()： 判断是否是文件夹

import os

import pandas as pd

import glob

import openpyxl

import numpy as np

path=‘…/input/covid19temp’ # 写的路径

csv_lists=[] # 该列表的作用

是否更新目录判断：

if os.path.isdir(path): #使用os.path.isdir判断path是否是路径

if not path.endswith(“/”):# 如果该路径的最后没有加上’/'的话，会帮忙加一个/

path+=“/”

print(path)

for each in os.listdir(path):# os.listdir()： 列出路径下所有的文件

print(each)

import os

import pandas as pd

import glob

import openpyxl

import numpy as np

path=‘…/input/covid19temp’ # 写的路径

csv_lists=[] # 该列表的作用

是否更新目录判断：

if os.path.isdir(path): #使用os.path.isdir判断path是否是路径

if not path.endswith(“/”):# 如果该路径的最后没有加上’/'的话，会帮忙加一个/

path+=“/”

print(path)

for each in os.listdir(path):# os.listdir()： 列出路径下所有的文件

print(each)

sub_path=path+each

path_list=[]

if os.path.isdir(sub_path):

path_list.append(sub_path)

csv_lists.append(path_list) # 生成主目录下路径列表（非文件）

根据路径进行路径下文件列表的生成

csvlists=[]

for i in range(len(csv_lists)):

print(i)

csvlists.append(glob.glob(csv_lists[i][0]+‘/*.csv’))

csvlists

获取每年的文件路径

csvfilelist=[]

for j in range(len(csvlists)):

for k in csvlists[j]:

csvfilelist.append(k)

csvfilelist

csvdatadf=pd.DataFrame()

for m in csvfilelist:

filesize=os.path.getsize(m)

if filesize>0:

csvdata=pd.read_csv(m)

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

五、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！