【python数据分析自动化】使用python将excel表自动导入mysql,执行复杂sql后导出excel表格,并打包exe超实用!

今天我们接到了一个任务,要进行一项安全审计分析,就是绕行的分析,即如果源地址是从终端域直接访问后台服务器,而不是通过企业的4A(账号、认证、授权、审计)系统的唯一入口进行访问,则被定义为绕行。

任务分解为:

一、需要将resoure(所有安全资产)的表格导入到mysql中。

二、需要将包含终端信息源地址的表格导入到mysql中。

三、执行sql后,将执行结果直接另存为excel进行导出,就得到了最后的结果表。

解决的问题:1、如果将excel表导入到mysql中;2、如果执行sql的操作;3、如何将表导出。

这样就可以实现分析的自动化,而不需要手工导表到mysql 中,然后再执行存储过程进行计算,最后要手工的导表出来。整个流程一气呵成,相当爽,这就是使用python来解决一些重复劳动,提升工作效率的好工具啦。

废话不多说,直接代码和解释一起上啦:

第一步:利用pandas导入excel表格,通过pd.read_excel的功能就可以轻松的导入表格进来了。实现的自动化的第一步:

import pandas as pd
from  pandas import DataFrame
from sqlalchemy import create_engine
import pymysql

raoxingLogFile= r'D:\绕行审计模型\raoxinglog.xls'
MechineDatar=r'D:\绕行审计模型\mechine.xlsx'
raoxingalladdress=r'D:\绕行审计模型\raoxingalladdress.xlsx'
alldata = DataFrame()

df_raoxinglog = pd.read_excel(raoxingLogFile,index=False, encoding='utf8')
df_resource=pd.read_excel(MechineDatar,index=False, encoding='utf8')
df_mac=pd.read_excel(raoxingalladdress,index=False, encoding='utf8')

第二步:将表格导入到本机的mysql的数据库中,并建立相应的表格

里面的:root是数据库的用户名;123456是数据库的密码;raoxingtable,resource,mac是导入mysql中的表格的名称,schema=“pandas”中的pandas是数据库名称。后面的if_exists='replace',是如果表已经存在就进行覆盖,如果不存在就新建。

# 里面的root是用户名,123456是数据库密码
engine = create_engine("mysql+pymysql://root:123456@localhost:3306/pandas?charset=utf8")
# 导入数据库绕行日志,raoxinglog是表名。
df_raoxinglog.to_sql("raoxingtable", engine, schema="pandas", if_exists='replace', index=True,chunksize=None, dtype=None)
print("已导入数据库绕行日志")
# 导入数据库资产中心数据
df_resource.to_sql("resource", engine, schema="pandas", if_exists='replace', index=True,chunksize=None, dtype=None)
# 导入源地址列表数据
df_mac.to_sql("mac", engine, schema="pandas", if_exists='replace', index=True,chunksize=None, dtype=None)

第三步:就是连接数据库,并执行mysql中的sql了。大家可以随意替换sql的内容,根据实际情况进行替换。

conn = pymysql.connect(host="127.0.0.1", user="root",password="123456",database="pandas",charset="utf8")
print("已连接数据库")

sql = '''select raoxingtable.`发生时间`,raoxingtable.`源地址`,mac.`使用人`,mac.`使用楼层`,raoxingtable.`发生主机IP` , resource.`责任人`,resource.`用途概述`,mac.`绕行类型` 
FROM raoxingtable LEFT JOIN resource ON raoxingtable.`发生主机IP`=resource.`IP地址`
LEFT JOIN mac ON raoxingtable.`源地址`=mac.`IP地址`;'''

print("执行sql操作成功")

df = pd.read_sql(sql,conn)
print(df)

第四步:导出sql的计算结果到桌面上的表格里面,实现自动化运算。

alldata=alldata.append(df)

alldata.to_excel('D:\绕行审计模型\overcome_log.xlsx')
print("已成功导出")

第五步:进行exe程序的打包发布,之后就只需要双击exe的文件就能够帮我自动导表,自动分析,自动出结果了,后续还可以进行可视化报表展示,直接输出到word里面,一份专业的分析报告就出来了,是不是很酷炫啊,哈哈~

1、到程序的文件目录下面,准备一个小的ico的图片,然后进行打包操作:pyinstaller -F -i 图标名称和python的脚本  ,前提是图标的文件要和脚本放在一起。

2、打包完成后,在dist文件夹里面就有exe的文件了,就可以点击执行了。

原来需要1个小时的工作,现在双击下就能成功啦,职场工具人的利器!!

如有问题和需要交流的,大家可以给我留言哟~

 

 

 

  • 4
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
### 回答1: 在Python使用pandas库可以很方便地将Excel表格转换为DataFrame对象,然后再通过SQLAlchemy库将DataFrame对象插入MySQL数据库中。 首先需要安装pandas和SQLAlchemy库。打开终端(或命令提示符),输入以下命令: ``` pip install pandas pip install sqlalchemy ``` 接着,需要设置MySQL数据库连接信息。在Python中,可以通过创建一个数据库引擎对象来连接MySQL数据库。在这里,我们可以使用如下代码创建一个MySQL数据库引擎对象: ``` from sqlalchemy import create_engine engine = create_engine('mysql+pymysql://username:password@hostname:port/databasename') ``` 其中,`username`和`password`是MySQL数据库的用户名和密码,`hostname`是MySQL数据库所在的主机名或IP地址,`port`是连接MySQL数据库的端口号,默认为3306,`databasename`是要连接的数据库名。 在连接好数据库后,我们可以使用pandas库读取Excel表格,并将其转换为DataFrame对象: ``` import pandas as pd df = pd.read_excel('filepath/excel_file.xlsx') ``` 需要注意的是,`filepath`是Excel文件所在的路径,`excel_file.xlsx`是文件的名称,需要根据实际情况进行替换。 最后,我们可以将DataFrame对象插入到MySQL数据库中: ``` df.to_sql(name='table_name', con=engine, if_exists='replace', index=False) ``` 其中,`table_name`是要插入数据的MySQL表格名称,`if_exists`参数用于控制是否覆盖已有的表格信息,如果为`replace`,则会删除已有表格并重新创建一个新表格。`index`参数用于设置是否将DataFrame的索引列也写入到MySQL表格中。如果设置为`True`,则索引列也会写入到表格中。如果想要忽略索引列,可以设置为`False`。 以上就是使用PythonExcel导入MySQL的基本方法。需要注意的是,如果Excel文件中包含大量的数据或者表格中的列比较多,建议对数据进行适当处理,例如添加索引或者分批添加数据,以避免出现内存或性能问题。 ### 回答2: 使用PythonExcel导入MySQL可以通过以下几个步骤实现: 首先,需要安装Python的pandas库和MySQLdb库。可以使用pip命令进行安装。 其次,使用pandas读取Excel文件,并将其转换为DataFrame对象,可以使用以下代码进行读取: import pandas as pd data = pd.read_excel("data.xls") 将Excel中的数据读取到data变量中。 接着,连接MySQL数据库。可以使用MySQLdb库进行连接。以下是建立连接的代码示例: import MySQLdb db = MySQLdb.connect(host="localhost", user="root", passwd="password", db="mydatabase") 在建立连接之后,需要获取到MySQL数据库的游标,以便在Python中对MySQL进行操作。可以使用db.cursor()获取游标。 然后,可以通过DataFrame的to_sql()方法将读取到的Excel中的数据存储到MySQL中。以下是将数据存储到MySQL的代码示例: data.to_sql(name="mytable", con=db, if_exists="append", index=False) 其中,name指定存储至MySQL中的名,con指定数据库连接,if_exists指定进行插入操作时的处理方式,index=False示不添加索引。 最后,关闭游标和数据库连接。可以使用以下代码: db.close() 这样,就可以使用PythonExcel导入MySQL。 ### 回答3: Python是一种脚本编程语言,可以用于快速处理各种数据。在数据处理和管理方面,Python有很大的优势,因为它支持许多库和框架,可以帮助开发人员自动化数据导入导出。在此过程中,使用PythonExcel文件导入MySQL数据库是一种常见的方法。下面是通过PythonExcel文件导入MySQL数据库的一些步骤: 步骤1:安装MySQL数据库和Python库 首先,需要安装MySQL数据库和Python的相关库。在安装MySQL之前,需要确定MySQL数据库服务器的名称,端口号,用户名和密码,以便在连接到数据库时正确配置连接参数。在Python库方面,通常使用openpyxl和pandas等库来读取和处理Excel文件。 步骤2:读取Excel文件 使用Python的openpyxl或pandas库可以读取Excel文件。这些库提供了各种函数来读取Excel文件并将其转换为Pandas数据帧。在读取Excel文件时,请确保Excel中的数据是清洁和完整的。 步骤3:将Excel数据转换为MySQL格式 在将Excel文件中的数据导入MySQL数据库之前,需要将Excel数据转换为MySQL数据格式。在这个步骤中,需要识别每个Excel列的数据类型,并将其映射到MySQL数据中的适当列。在正确映射之后,可以将Excel数据表格保存为MySQL表格。 步骤4:将数据导入MySQL 一旦Excel数据已经转换为MySQL数据格式,便可以将其导入MySQL数据库。这可以使用Python的pymysql库来实现,使用该库可以在Python中连接到MySQL数据库并执行SQL语句。 步骤5:验证数据 导入数据后,应对数据进行验证以确保正确性。在验证过程中,请仔细查看MySQL以确保它包含所有Excel数据和正确的格式。 总的来说,利用PythonExcel文件导入MySQL数据库是一种方便快捷的方法。尽管可能需要一些额外的时间和努力来设置和调试该过程,但是一旦配置完成并且正确运行,这将极大地提高数据处理和管理的效率。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值