无限大地NLP_空木的专栏

研究自然语言处理、机器学习、信息抽取等方向

python 编码问题——字符编码

preface: 承接上一条博客,帮师兄处理json文件读入数据库中。python读入数据到数据库中,出现编码问题。python里面定义了utf-8,然而文件中有日文、韩文、其他符号、拉丁编码等等,对编码不够熟悉果然是要死银的,弄了挺久的,却终究一个函数可破。encode()函数。

decode()和encode()这两个函数,有空的时候还是多看看才是。

# -*- coding: utf-8 -*-
"""
Created on Fri Jul 10 16:49:56 2015

@author: shifeng
"""
import codecs
import json
import sys
reload(sys)    
sys.setdefaultencoding('utf8') 

f = codecs.open("xxx.json")
for line in f:
    line_dict = json.loads(line)
    text = line_dict["text"]
    text = text.encode(encoding="utf-8",errors = "ignores")
xxx.json文件中,text字段的值包含中文、拉丁编码、日文、韩文等。
unicode(string,encoding="GB2312")
另外编码问题可参考:http://blog.csdn.net/tingsking18/article/details/4033645

阅读更多
个人分类: python 综合
上一篇python json及mysql——读取json文件存sql、数据库日期类型转换、终端操纵mysql及python codecs读取大文件问题
下一篇stanford parser 使用说明
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭