前段时间公司要求做数据整理,需要将Excel中整理的业务数据整合到新系统的数据库中,因为时间比较紧且只需要一次性操作,所以这里用Python3写了个脚本完成工作,这里整理下实现思路并提供源码下载地址,希望能对友友们有所帮助。
首先确定需要用到的Python3类库,这里用xlrd实现Excel的读取,用pymysql进行数据库操作,为了方便这里用pycharm编译。首先在pycharm中安装类库,点击file ==> setting ==>Project Interpreter 在这里点击绿色+号进行安装操作。
在安装对话框里输入xlrd和pymysql检索类库然后点击Install Package进行安装。
安装完毕之后就可以进行写代码了,首先先与mysql数据库建立连接代码如下:
connect = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = connect.cursor()
其中host代表连接的数据库IP,本地用127.0.0.1即可;port为端口默认应为3306;user和password对应数据库用户名和密码;db代表连接的数据库名;charset代表编码格式这里用utf8。
接下来就可以进行Excel的操作,代码如下:
data = xlrd.open_workbook(excelPath) # 根据Excel路径读取Excel
table = data.sheet_by_index(0) # 根据Excel的sheet的index获取sheet,也可以用data.sheet_by_name('name')根据sheet名称获取
tableRows = table.nrows # 获取sheet行数
tableColumns = table.ncols # 获取sheet列数
从Excel中读取到数据后就可以将数据写入数据可了,可以通过循环tableRows和tableColumns逐一获取Excel里的数据然后通过sql语句将数据插入到数据库中,具体代码如下:
saveInfoFromExcel = 'INSERT INTO test (id,name)VALUES (' + id + ',' + name + ')' # 拼接执行的sql
print(saveInfoFromExcel) # 打印sql
cursor.execute(saveInfoFromExcel) # 执行sql
connect.commit() # 提交事务
注意:这里调用cursor.excute(sql)后一定要记得调用connect.commit()方法提交事务,这样数据才会正常插入到数据库中。详细代码如下,希望能对大家有所帮助。
import xlrd
import pymysql
import uuid
# 数据库连接配置项
host = '127.0.0.1' # 数据库连接地址
port = 3306 # 数据库连接端口
user = '' # 数据库连接username
password = '' # 数据库连接密码
db = '' # 数据库名称
charset = 'utf8' # 编码格式
# 读取Excel配置项
excelPath = '' # Excel读取路径
connect = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = connect.cursor()
data = xlrd.open_workbook(excelPath) # 根据Excel路径读取Excel
table = data.sheet_by_index(0) # 根据Excel的sheet的index获取sheet,也可以用data.sheet_by_name('name')根据sheet名称获取
tableRows = table.nrows # 获取sheet行数
tableColumns = table.ncols # 获取sheet列数
data = [] # 初始化存储读取信息的list
for i in range(tableRows): # 循环行
for j in range(tableColumns): # 循环列
data.append(str(table.cell(i, j).value)) # 获取cell里的内容
id = '"' + str(uuid.uuid4()).replace('-', '') + '"'
name = '"' + str(table.cell(i, j).value) + '"'
saveInfoFromExcel = 'INSERT INTO test (id,name)VALUES (' + id + ',' + name + ')' # 拼接执行的sql
print(saveInfoFromExcel) # 打印sql
cursor.execute(saveInfoFromExcel) # 执行sql
connect.commit() # 提交事务
data = [] # 置空data数组
这里是以上代码的资源链接有需要的话也可以从这里下载到以上的代码。
https://download.csdn.net/download/zch1990s/10290139