问题背景:数据存放在MySQL里面,在数据库里面查询发现有个字段的数据是JSON格式,不方便进行后续的操作,比方说:统计分析,特征提取等。所以想把这个字段里面的JSON格式数据进行解析,解析成功后,然后把以结构化表的形式存放到MySQL数据库。
解决方案:首先通过Python3连接MySQL,然后获取MySQL数据集,接下来利用Python的相应库解析JSON格式数据,最后把解析好数据放到数据框,并回存到MySQL数据库。
Python3连接MySQL代码片段
import pymysql
# 连接数据库
conn = pymysql.connect(
host = "your host",
port = your port,
user = "your user name",
passwd = "your user passwd",
db="your db")
Python3获取MySQL数据代码片段
# 创建游标
cur = conn.cursor()
# 查询t_test表的所需字段数据
cur.execute("select user_id, file_id from t_test")
# 获取t_test所有数据
result = cur.fetchall()
#print(result)
import pandas as pd
df_result = pd.DataFrame(list(result), columns = ["user_id", "file_id"])
print(df_result.shape)
print(df_result.head())
完整代码
import pymysql
import pandas as pd
# 连接数据库
conn = pymysql.connect(
host = "your host",
port = your port,
user = "your user name",
passwd = "your user passwd",
db="your db")
# 创建游标
cur = conn.cursor()
# 查询t_test表的所需字段数据
cur.execute("select user_id, file_id from t_test")
# 获取t_test所有数据
result = cur.fetchall()
#print(result)
df_result = pd.DataFrame(list(result), columns = ["user_id", "file_id"])
print(df_result.shape)
print(df_result.head())
版权声明:作者保留权利,严禁修改,转载请注明原文链接。
数据人网是数据人学习、交流和分享的平台http://shujuren.org 。专注于从数据中学习到有用知识。 平台的理念:人人投稿,知识共享;人人分析,洞见驱动;智慧聚合,普惠人人。 您在数据人网平台,可以1)学习数据知识;2)创建数据博客;3)认识数据朋友;4)寻找数据工作;5)找到其它与数据相关的干货。 我们努力坚持做原创,聚合和分享优质的省时的数据知识! 我们都是数据人,数据是有价值的,坚定不移地实现从数据到商业价值的转换!