python遍历文件夹下的csv文件，读取文件内容存到数据库

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Python全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024c （备注Python）

正文

1、csv文件为从文件数据库导出的数据文件，一个一个的导入到数据库效率就比较低下；

2、日期形式的字段会存在特殊的字符或者字段中包含了单引号就会报错。

二、操作

1、循环读取选定文件夹下的文件

‘’’

读取文件夹下的csv文件

‘’’

def readAllFiles(filePath):

fileList = os.listdir(filePath)

for file in fileList:

path = os.path.join(filePath, file)

if os.path.isfile(path):

file = open(path, ‘r’, encoding=‘utf-8’)

print(path)

#流程记录信息

if path.find(“workflow”) != -1:

analysisWorkflowCsv(file)

pass

#意见信息

elif path.find(“opinion”) != -1:

analysisOpinionCsv(file)

pass

#发文数据

elif path.find(“wd_24”) != -1:

analysisWd24Csv(file)

pass

#收文数据

elif path.find(“wd_25”) != -1:

analysisWd25Csv(file)

pass

else:

readAllFiles(path)

2、解析文件内容，首行为标题栏需要跳过。入库操作每满1000条commit一次主要是python频繁提交执行次数达到1000+就会报错。1000条commit一次可以避免错误并缓解内存压力。

‘’’

遇到问题没人解答？小编创建了一个Python学习交流QQ群：778463939

寻找有志同道合的小伙伴，互帮互助,群里还有不错的视频学习教程和PDF电子书！

‘’’

def analysisWorkflowCsv(file):

csvFile = csv.reader(file)

读取一行，下面的reader中已经没有该行了

head_row = next(csvFile)

print(head_row)

__conn = getConnect_old()

counter = 0

for row in csvFile:

workflow = {}

workflow[‘UUID’] = row[0]

workflow[‘subject’] = row[1]

workflow[‘signdate’] = row[2]

workflow[‘U_UnitName’] = row[3]

workflow[‘U_UnitUser’] = row[4]

workflow[‘U_UnitUserTitle’] = row[5]

workflow[‘U_UnitEndTime’] = row[6]

workflow[‘U_UnitAction’] = row[7]

workflow[‘U_UnitToTitle’] = row[8]

if insertWorkflows(__conn, workflow):

counter += 1

if counter % 1000 == 0:

__conn.commitData()

print(“已经插入工作流数据： %d 条。”%counter)

__conn.commitData()

__conn.closeConn()

2、解析文件内容，首行为标题栏需要跳过。入库操作每满1000条commit一次主要是python频繁提交执行次数达到1000+就会报错。1000条commit一次可以避免错误并缓解内存压力。

‘’’

解析文件

‘’’

def analysisWorkflowCsv(file):

csvFile = csv.reader(file)

读取一行，下面的reader中已经没有该行了

head_row = next(csvFile)

print(head_row)

__conn = getConnect_old()

counter = 0

for row in csvFile:

workflow = {}

workflow[‘UUID’] = row[0]

workflow[‘subject’] = row[1]

workflow[‘signdate’] = row[2]

workflow[‘U_UnitName’] = row[3]

workflow[‘U_UnitUser’] = row[4]

workflow[‘U_UnitUserTitle’] = row[5]

workflow[‘U_UnitEndTime’] = row[6]

workflow[‘U_UnitAction’] = row[7]

workflow[‘U_UnitToTitle’] = row[8]

if insertWorkflows(__conn, workflow):

counter += 1

if counter % 1000 == 0:

__conn.commitData()

print(“已经插入工作流数据： %d 条。”%counter)

__conn.commitData()

__conn.closeConn()

3、数据入库

‘’’

插入工作流程数据

‘’’

def insertWorkflows(__conn, workflow):

__sql = ‘’’

INSERT INTO workflows (

UUID, U_UnitName, U_UnitUser, U_UnitUserTitle, U_UnitEndTime, U_UnitAction, U_UnitToTitle, subject, signdate

) VALUES (%s, %s, %s, %s, %s, %s, %s, %s, %s)

‘’’

__params = (

workflow[‘UUID’], workflow[‘U_UnitName’], workflow[‘U_UnitUser’], workflow[‘U_UnitUserTitle’],

workflow[‘U_UnitEndTime’], workflow[‘U_UnitAction’], workflow[‘U_UnitToTitle’], workflow[‘subject’],

workflow[‘signdate’]

)

print(__sql % __params)

return __conn.mssql_exe_sql(__sql, __params)

4、python操作sqlserver代码

‘’’

遇到问题没人解答？小编创建了一个Python学习交流QQ群：778463939

寻找有志同道合的小伙伴，互帮互助,群里还有不错的视频学习教程和PDF电子书！

‘’’

import pymssql

os.environ[‘NLS_LANG’] = ‘SIMPLIFIED CHINESE_CHINA.UTF8’

‘’’

最后

不知道你们用的什么环境，我一般都是用的Python3.6环境和pycharm解释器，没有软件，或者没有资料，没人解答问题，都可以免费领取（包括今天的代码），过几天我还会做个视频教程出来，有需要也可以领取~

给大家准备的学习资料包括但不限于：

Python 环境、pycharm编辑器/永久激活/翻译插件

python 零基础视频教程

Python 界面开发实战教程

Python 爬虫实战教程

Python 数据分析实战教程

python 游戏开发实战教程

Python 电子书100本

Python 学习路线规划

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
HR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA==,size_16,color_FFFFFF,t_70)

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）
[外链图片转存中…(img-GJNQ9aRT-1713379427889)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！