Python 将CSV文件数据存入Mysql数据库

本文展示了一段Python代码,该代码使用pandas、pymysql和csv库从CSV文件中读取学生信息,然后将这些信息插入到MySQL的student_info表中。主函数中,首先建立数据库连接,然后通过autocommit开启自动提交,遍历CSV文件中的每一项数据并执行插入操作。此外,还展示了如何查询特定名字的学生信息,对比了格式化字符串和参数化查询的方法。
摘要由CSDN通过智能技术生成

我们有一个名为student.csv的文件,里面包含有学生的学号、姓名、性别等信息,想要基于Python将CSV文件中的信息写入MySQL数据库的student_info表中。

student.csv
下面给出具体实现代码。

首先引入所需要的库。

import pandas as pd
import pymysql
import csv
from collections import namedtuple

1、get_data函数打开文件csv文件, 通过open方法打开文件(python文件实现了迭代器协议),然后使用with语句来迭代读取csv文件,然后存入命名元组,可以使用列名作为下标访问元组中的内容。

def get_data(file_name):
    with open(file_name) as f:
        f_csv = csv.reader(f)
        headings = next(f_csv)
        Row = namedtuple('Row', headings)
        for r in f_csv:
            yield Row(*r)

2、execute_sql,使用上下文管理器包装execute执行语句

def execute_sql(conn, sql):
    with conn.cursor() as cur:
        cur.execute(sql)
        print('执行成功')

3、main主函数,连接数据库,执行SQL语句,提交commit,关闭连接。

def main()
    conn = pymysql.connect(
           host='xxx.xxx.xxx.xxx',
           user='root',
           passwd='密码',
           db='数据库名称', 
           port = 3306,
           charset="utf8")

	# 将CSV文件中的数据插入MySQL数据表中
	SQL_FORMAT = """insert into student_info values('{0}', '{1}', '{2}')"""
	conn.autocommit(1)
	for t in get_data('./data/student.csv'):
	    print(t.id, t.name, t.gender)
	    sql = SQL_FORMAT.format(t.id, t.name, t.gender)
	    print(sql)
	    execute_sql(conn, sql)
	conn.commit()  # 提交到数据库
	conn.close()  # 关闭数据库服务
if __name__ == '__main__':
    main()

执行上述代码,查看MySQL数据表中的内容,发现数据被成功插入student_info 表中。
在这里插入图片描述

基于Python查询MySQL数据表
conn = pymysql.connect(
       host='xxx.xxx.xxx.xxx',
       user='root',
       passwd='密码',
       db='数据库名称', 
       port = 3306,
       charset="utf8")

SQL_FORMAT = """select * from student_info where name='{0}'"""
sql_1 = SQL_FORMAT.format('Mary')
print('sql_1:', sql_1)

sql_2 = 'select * from student_info where name=%s'
print('sql_2:', sql_2)

with conn.cursor() as cur:  # cursor对象用于执行sql语句
    cur.execute(sql_1)
    res_1 = cur.fetchall() # 获取结果及的所有数据     
    print('sql_1执行结果:', res_1)
    
    cur.execute(sql_2, 'Jack') 
    res_2 = cur.fetchall() # 获取结果及的所有数据     
    print('sql_12执行结果:', res_2)
conn.commit()  # 提交
conn.close()  # 关闭服务

输出结果:

sql_1: select * from student_info where name='Mary'
sql_2: select * from student_info where name=%s
sql_1执行结果: ((1, 'Mary', 'F'),)
sql_12执行结果: ((2, 'Jack', 'M'),)

【参考博客】:

  1. Python将csv文件导入到mysql数据库
  2. Python写入MySQL数据库的三种方式详解
### 使用PythonCSV文件数据导入MySQL数据库 为了实现这一目标,可以采用多种方法。一种常见的方式是利用`pandas`库来处理CSV文件,并借助`SQLAlchemy`和`PyMySQL`连接并操作MySQL数据库。 #### 方法一:使用Pandas与SQLAlchemy组合 这种方法适合于大多数情况下的CSV文件读取与写入数据库的操作: ```python import pandas as pd from sqlalchemy import create_engine # 创建引擎对象用于连接数据库 engine = create_engine('mysql+pymysql://username:password@localhost/dbname') # 读取CSV文件至DataFrame df = pd.read_csv("path/to/your.csv") # 将DataFrame中的数据保存到指定表内 df.to_sql(name='target_table', con=engine, if_exists='append', index=False) ``` 上述代码片段展示了如何创建一个能够访问特定MySQL实例的引擎对象;接着加载本地磁盘上的CSV文件进入内存作为临时性的表格结构——即`DataFrame`;最后一步则是把该表格的内容追加到已存在的关系型数据库表里[^1]。 #### 方法二:逐行解析CSV并通过SQL语句插入记录 对于非常大的CSV文件来说,可能更倾向于手动控制每条记录的插入过程以优化性能或适应特殊需求: ```python import csv import pymysql.cursors connection = pymysql.connect(host='localhost', user='root', password='', db='testdb', charset='utf8mb4', cursorclass=pymysql.cursors.DictCursor) try: with connection.cursor() as cursor: # 执行 SQL 查询 sql = "INSERT INTO `users` (`email`, `password`) VALUES (%s, %s)" with open('data.csv') as csvfile: reader = csv.reader(csvfile) next(reader) # 跳过标题行 for row in reader: cursor.execute(sql, (row[0], row[1])) # 提交更改 connection.commit() finally: connection.close() ``` 这段脚本首先建立了同MySQL服务器的安全链接,随后定义了一条简单的插入命令模板。之后打开待处理的目标CSV文档,忽略首行列名后遍历剩余各行内容并向数据库提交新纪录直到完成全部工作为止[^2]。 #### 方法三:直接调用LOAD DATA INFILE指令 如果环境允许的话(比如拥有足够的权限),还可以考虑直接运用MySQL内置的功能快速高效地批量载入外部文本文件内的资料集: ```sql LOAD DATA LOCAL INFILE '/full/path/of/data.csv' INTO TABLE target_table FIELDS TERMINATED BY ',' LINES TERMINATED BY '\r\n' IGNORE 1 ROWS; ``` 此方式通常被认为是最简洁有效的途径之一,因为它几乎不需要额外编写任何应用程序逻辑就能达成目的。不过需要注意的是,在实际应用前应当确认所使用的客户端工具支持这项特性并且配置正确无误[^4]。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值