批量写入某文件夹中的csv去到mysql

对我来说这就是不得不写的流水帐。参考完一系列资料以后,改编了一段code希望可以代码复用。

import pymysql
import pandas as pd
import sys
import os


def mysql_to_csv(sql,file_path,host,port,db,user,password):
    try:
        con = pymysql.connect(host=host,port=port,db=db,user=user,password=password)
        print("Connected to DB: {}".format(host))

        df = pd.read_sql(sql,con)
        df.to_csv(file_path,encoding='utf-8',header=True,doublequote=True,sep=',',index=False)
        print("File,{} has been created successfully".format(file_path))
        con.close()

    except Exception as e:
        print("Error:{}".format(str(e)))
        sys.exit(1)

def csv_to_mysql(load_sql,host,port,db,user,password):
    try:
        con = pymysql.connect(host=host,port=port,db=db,user=user,password=password,autocommit=True,local_infile=1)
        print("Connected to DB:{}".format(host))

        cursor=con.cursor()
        cursor.execute(load_sql)
        print("Successfully loaded the table from csv.")
        con.close()

    except Exception as e:
        print("Error:{}".format(str(e)))
        sys.exit(1)

if __name__ == "__main__":

    host = '127.0.0.1'
    port = 3306
    db = 'research_tool'
    user = 'root'
    password = 'xxxxxx'
    

    

    ##loop files
    rootdir = './'
    listing = os.listdir(rootdir)
    for file_csv in listing:
        if file_csv.endswith('.csv'):

            load_sql = """LOAD DATA LOCAL INFILE '{}' INTO TABLE chn_yield_curve FIELDS TERMINATED by ',';;""".format(file_csv)
            csv_to_mysql(load_sql,host,port,db,user,password)

 

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

取啥都被占用

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值