Python有很多库可以对CSV文件和Excel文件进行自动化和规模化处理。但是,使用数据库可以将计算机完成任务的能力提升成千上万倍!
那么问题来了,如果有很多个文件需要导入数据库,一个一个操作效率太低了,有没有批量处理的方法?
★本文就来分享一下,如何通过 Python 将任意结构的CSV文件导入MySQL数据库。不管你的CSV文件存在哪里,也不管你的CSV文件有几个字段。用下面的代码,都可以实现一键批量导入!
”
数据源:本文以贵州茅台(600519)、古井贡酒(000596)、口子窖(603589)三个上市公司的资金流向历史交易数据为例(起止日期:2001-8-27至2020-1-23,相关数据可以从网易财经下载)。同时手动新建了test1.csv
和test2.csv
两个测试CSV文件,用来测试程序的通用性。数据结构见下图:
先来看看程序运行效果图:
我们再来查询下贵州茅台(600519)的所有数据:
可见,5 个 CSV 文件,结构不安全相同,共 1W+ 数据,导入 MySQL 数据库也就是几秒种的事情。比手动导入效率高太多了!
如果你有成千上万个 CSV 文件,用这个程序也就是一键操作,剩下的耐心等待就行。
下面就来分析下该程序的实现逻辑吧。
1. 连接 MySQL 数据库
操作之前,你必须完成安装并正确启动 MySQL 服务。如果还没有安装 MySQL,可以参考我的文章:7步完成MySQL配置,极简教程,还不来试试ÿ