csv导入mysql_Python之使用Pandas库实现MySQL数据库的读写

本次分享将介绍如何在Python中使用Pandas库实现MySQL数据库的读写。首先我们需要了解点ORM方面的知识

ORM技术

对象关系映射技术，即ORM(Object-Relational Mapping)技术，指的是把关系数据库的表结构映射到对象上，通过使用描述对象和数据库之间映射的元数据，将程序中的对象自动持久化到关系数据库中。

在Python中，最有名的ORM框架是SQLAlchemy。Java中典型的ORM中间件有:Hibernate,ibatis,speedframework。

SQLAlchemy

SQLAlchemy是Python编程语言下的一款开源软件。提供了SQL工具包及对象关系映射(ORM)工具，使用MIT许可证发行

SQLAlchemy模块提供了create_engine()函数用来初始化数据库连接，SQLAlchemy用一个字符串表示连接信息：

'数据库类型+数据库驱动名称://用户名:口令@机器地址:端口号/数据库名'

Pandas读写MySQL数据库

 我们需要以下三个库来实现Pandas读写MySQL数据库：

• pandas
• sqlalchemy
• pymysql

其中，pandas模块提供了read_sql_query()函数实现了对数据库的查询，to_sql()函数实现了对数据库的写入。并不需要实现新建MySQL数据表。

sqlalchemy模块实现了与不同数据库的连接，而pymysql模块则使得Python能够操作MySQL数据库。

我们将使用MySQL数据库中的mydb数据库以及employee表，内容如下：

注意：

• 1.根据库的文档，我们看到to_sql函数支持两类mysql引擎一个是sqlalchemy，另一个是sqlliet3.没错，在你写入库的时候，pymysql是不能用的！！！
• mysqldb也是不能用的，你只能使用sqlalchemy或者sqlliet3！！鉴于sqllift3已经很久没有更新了，笔者这里建议使用sqlalchemy！！
• 2.to_sql函数并不在pd之中，而是在io.sql之中，是sql脚本下的一个类！！！所以to_sql的最好写法就是：
• pd.io.sql.to_sql(df1,tablename,con=conn,if_exists='repalce') qq_34685317的博客

下面将介绍一个简单的例子来展示如何在pandas中实现对MySQL数据库的读写：

import pandas as pdfrom sqlalchemy import create_engine# 初始化数据库连接，使用pymysql模块# MySQL的用户：root, 密码:147369, 端口：3306,数据库：testengine = create_engine('mysql+pymysql://root:123456@localhost:3306/test')# 查询语句，选出employee表中的所有数据sql = ''' select * from employee; '''# read_sql_query的两个参数: sql语句， 数据库连接df = pd.read_sql_query(sql, engine)# 输出employee表的查询结果print(df)# 新建pandas中的DataFrame, 只有id,num两列df = pd.DataFrame({'id': [1, 2, 3, 4], 'name': ['zhangsan', 'lisi', 'wangwu', 'zhuliu']})# 将新建的DataFrame储存为MySQL中的数据表，储存index列df.to_sql('mydf', engine, index=True)print('Read from and write to Mysql table successfully!')

运行结果：

这说明我们确实将pandas中新建的DataFrame写入到了MySQL中！

将CSV文件写入到MySQL中

以上的例子实现了使用Pandas库实现MySQL数据库的读写，我们将再介绍一个实例：将CSV文件写入到MySQL中，示例的example.csv文件如下

示例的Python代码如下：

# -*- coding: utf-8 -*-# 导入必要模块import pandas as pdfrom sqlalchemy import create_engine# 初始化数据库连接，使用pymysql模块db_info = {'user': 'root', 'password': '123456', 'host': 'localhost', 'port': 3306, 'database': 'test' }engine = create_engine('mysql+pymysql://%(user)s:%(password)s@%(host)s:%(port)d/%(database)s?charset=utf8' % db_info, encoding='utf-8')# 直接使用下一种形式也可以# engine = create_engine('mysql+pymysql://root:123456@localhost:3306/test')# 读取本地CSV文件df = pd.read_csv("C:/Users/fuqia/Desktop/example.csv