python 编码方式总结

原创 2015年11月17日 20:35:54

python内部使用unicode编码):

>>> t='北京'

>>> t

'\xe5\x8c\x97\xe4\xba\xac'

   1)urllib.quote(t) 将t转换为16进制编码

      '%E5%8C%97%E4%BA%AC'

  urllib.unquote('%E5%8C%97%E4%BA%AC') 将16进制编码转换为内部编码

      '\xe5\x8c\x97\xe4\xba\xac'

   2)decode的作用是将其他编码的字符串转换成unicode编码

>>> s= t.decode('utf-8')

>>> s

u'\u5317\u4eac'

>>> w=t.encode('utf-8')

Traceback (most recent call last):

  File "<stdin>", line 1, in <module>

UnicodeDecodeError: 'ascii' codec can't decode byte 0xe5 in position 0: ordinal not in range(128)

>>> w=s.encode('utf-8')

>>> w

'\xe5\x8c\x97\xe4\xba\xac'

>>> q=s.encode('gb2312')

>>> q

'\xb1\xb1\xbe\xa9'

首先要搞清楚,字符串在Python内部的表示是unicode编码

因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码, 

如str1.decode('gb2312'),表示将gb2312编码的字符串转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串, 

如str2.encode('gb2312'),表示将unicode编码的字符串转换成gb2312编码。 

在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码: 

s=u"中文

print s 

会提示: 

UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。 

这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。 

将最后一句改为:print s.encode('gb2312') 则能正确输出中文两个字。 

若最后一句改为:print s.encode('utf8') 则输出:\xe4\xb8\xad\xe6\x96\x87, 

这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。 

另外,代码中字符串的默认编码与代码文件本身的编码一致, 

如: s='中文如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。 

通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件,在这篇文章中可以看到如何获得系统的默认编码。 

如果字符串是这样定义: s=u'中文则该字符串的编码就被指定为unicode了,即python的内部编码,和代码文件本身的编码无关。 

因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。 

如果一个字符串已经是unicode了,再进行解码则将出错, 

因此通常要对其编码方式是否为unicode进行判断:

版权声明:本文为博主原创文章,未经博主允许不得转载。

Python中的编码方式

Python中的正则表达式 概述 在python中:编码:unicode-->str    解码:str-->Unicode   在python中,编码函数是encode(),解码函数是decode(...
  • yixiantian7
  • yixiantian7
  • 2014年02月22日 11:16
  • 1101

python中的文件编码方式

python的初学者一般会对python中的中文字符串的处理方式比较费解,本文将结合具体的实验解决大家的这一困惑。 一、源代码中的编码方式分析 先举一个简单的例子,创建一个名为test.py的文件,内...
  • linshengchao123
  • linshengchao123
  • 2015年08月22日 17:08
  • 791

编码方式总结

由于写文件上传的时候讲文件byte[]变成String进行截取,然后再将截取的字符串变成byte[],结果发现最后得到的文件变成这样: 正确的: 错误的: 对比发现 FFD8 ====》3...
  • Mr_wangks
  • Mr_wangks
  • 2016年07月21日 15:20
  • 90

python编码方式

查看编码方式: import chardet print chardet.detect(str) #str为string[字节序] 若写入时以mode='a',encoding='utf-16'方式执...
  • wanghuafengc
  • wanghuafengc
  • 2014年02月12日 20:37
  • 589

判断网页的编码方式 python

在学习python爬取网页的时候,我们经常会遇到编码方式的困扰,为了解决这个编码方式的问题,首先是要获取网页的编码方式,下面就获取网页的编码方式重点说一下三种方法。一, 使用urllib模块的getp...
  • Winterto1990
  • Winterto1990
  • 2015年08月14日 11:09
  • 3565

python如何查看编码类型

##查看编码类型 import chardet chardit1 = chardet.detect(cf_r)#cf_r为要查看的编码 print (cf_r['encoding'])...
  • jiasudu1234
  • jiasudu1234
  • 2017年05月05日 11:28
  • 890

Python编程中的编码问题

1.在python 2.x中定义字符串有两种方式: (1)str1 = "北京" (2)str2 = u"北京" 通过type(str1)和type(str2)可以知道str1是str类型的,而s...
  • wangjianno2
  • wangjianno2
  • 2016年09月04日 04:48
  • 240

【Python】各种编码

问题:做Twitter数据去停用词的处理,遇到“UnicodeDecodeError: 'gbk' codec can't decode byte 0xbf in position 2: illega...
  • YWP_2016
  • YWP_2016
  • 2017年02月24日 23:11
  • 444

python入门知识总结

暑假没回家 ,一不小心培训了python,反正免费的不听白不听,总比呆在寝室无聊好的多,庆幸的是坚持下来了,现在回想起来虽然学习时间很短,但确实感触蛮大的,因此写这篇文章总结一下。第一节课就被授课者吓...
  • Hungryof
  • Hungryof
  • 2014年09月15日 17:50
  • 3630

python 修改默认编码方式

今天碰到了 python 编码问题, 报错信息如下 Traceback (most recent call last):   File "ntpath.pyc", line 108, in joi...
  • python_tty
  • python_tty
  • 2015年12月04日 12:08
  • 797
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:python 编码方式总结
举报原因:
原因补充:

(最多只允许输入30个字)