关闭

Pandas to_json() 中文乱码

标签: jsonpandasbug乱码python
25326人阅读 评论(0) 收藏 举报
分类:

问题出现与解决

Pandas进行数据处理之后,假如想将其转化为json,会出现一个bug,就是中文文字是以乱码存储的,也就是\uXXXXXX的形式,翻了翻官网文档,查了源码的参数,确认Pandas不带该功能=- =.于是又查了很多博客,结果都是解决读取json时的乱码问题.并没有写入的乱码问题解决.

于是决定自己写一个.首先用demojson的类库尝试了一下,不行,依旧编码问题.之后考虑python 原生的 json 应该有编码转换功能,查了查官网文档,确实可以,不过要比平时多加一个参数

listXY_json = json.dumps(listXY, sort_keys=True, indent=4, ensure_ascii=False)
#ensure_ascii:默认值True,如果数据中含有非ASCII的字符,则会类似\uXXXX的显示数据,设置成False后,就能正常显示

既然找到解决乱码的方法,那么想要将pandas中的数据类型存储到json中就只需要先将其转换为python自带的数据类型,再利用 json 类库其转换为json格式并存储就可以了,因为我自己是为了将python处理好的数据转换为json数组,然后利用echarts生成表格,所以我将其封装为了一个类,源码在最后

存储的的json前后对比

df1 = pd.DataFrame(pd.read_excel(u'excel/袁隆平院士报告处理后.xlsx'))
js001 = df1.to_json()
with open('json/testjson.json', 'w') as f:
  f.write(js001)

# "16":6,"17":6,"18":3,"19":4},"content":{"0":"\u63a5\u5f85\u738b\u7389\u7530\u9662\u58eb\u4e00\u884c","1":"\u5b


#处理后
df1 = pd.DataFrame(pd.read_excel(u'excel/袁隆平院士报告处理后.xlsx'))
dfts = DataFrameToJSONArray(df1, 'json/wyt_xyz.json') # 参数(df数据,文件存储路径)
dfts.funChangeDataFrameType() # 自动转换DataFrame的列数据类型
dfts.funSaveJSONArrayFile() # 存储JSON格式文件

# [["2016-08-08", "袁隆平院士观摩指导"], ["2016-08-09","修改完善袁隆平院士项目合作协议"],["2016-08-10","完成袁隆平院士合作协议"],["2016-08-31","袁隆平院士项目入驻院士港协议审核完毕"],....]

DataFrameToJSONArray()源码

# - * - coding: utf - 8 -*-
#
# 作者:田丰(FontTian)
# 创建时间:'2017/7/16'
# 邮箱:fonttian@Gmaill.com
# CSDN:http://blog.csdn.net/fontthrone
import sys
import pandas as pd
import json
import re

reload(sys)
sys.setdefaultencoding('utf-8')

class DataFrameToJSONArray():
    def __init__(self, dataframe, filepath='DataFrameToJSONArrayFile.json'):
        self.__DataFrame = dataframe
        self.__FilePath = filepath

    def funChangeDataFrameType(self):
        for i in range(len(self.__DataFrame.columns)):
            s = re.sub(r'\'>', '', re.sub(r'\d', '', str(type(self.__DataFrame.iloc[:, i][0])))).replace('\'', ' ').replace('.',
                                                                                                               ' ').split(
                ' ')[-1]
            if s == 'Timestamp':
                self.__DataFrame.iloc[:, i] = self.__DataFrame.iloc[:, i].astype(unicode)
            else:
                self.__DataFrame.iloc[:, i] = self.__DataFrame.iloc[:, i].astype(s)
        return self.__DataFrame

    def funSaveJSONArrayFile(self):
        list001 = []
        for i in range(len(self.__DataFrame.columns)):
            list001.append(list(self.__DataFrame.iloc[:, i]))

        list002 = []
        list003 = []

        for i in range(len(list001[0])):
            for j in range(len(self.__DataFrame.columns)):
                list003.append(list001[j][i])
            list002.append(list003)
            list003 = []

        Final_JSON = json.dumps(list002, sort_keys=True, indent=4, ensure_ascii=False)
        with open(self.__FilePath, 'w') as f:
            f.write(Final_JSON)
        return Final_JSON
  • def init(self, dataframe, filepath=’DataFrameToJSONArrayFile.json’) dataframe需要传入的数据,filepath,json文件存储路径
  • funChangeDataFrameType() 自动转换DataFrame数据类型,返回转换后的DataFrame
  • funSaveJSONArrayFile() 保存文件
1
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:221103次
    • 积分:2517
    • 等级:
    • 排名:第14612名
    • 原创:71篇
    • 转载:17篇
    • 译文:2篇
    • 评论:19条
    博客专栏