python编码规则_浅谈Python中的编码规则

注:本人用Python3.4作为学习版本,以下学习心得只适用于Python3.4。

之前拜读了金角大王Alex关于编码的解答,收获颇多。特此致谢,以下仅谈一谈作为一个初学者,对编码的理解。

我所了解的编码,大致分为两类:第一类是支持中文的编码集;第二类是支持英文的编码集。至于别国的编码集,暂且不做讨论。

常见编码:ASCII;Unicode;UTF-8;big5,;GB2312;GBK;GB18030

接下来,我对以上编码进行分类:

只支持英文和特殊字符的编码:ASCII

ASCII是基于拉丁字母的一套电脑编码系统,主要用于显示现代英语和其他西欧语言,用8位来表示1个字节,也就是表示一个英文需要8位二进制数。

只支持中文和特殊字符的编码:big5,;GB2312;GBK;GB18030

big5是用来存储繁体中文的编码集,而GB2312;GBK;GB18030都是用来存储简体中文的编码集

GB2312;GBK;GB18030所支持的汉字数量依次递增,都采用2个字节来表示一个汉字或者特殊符号,也就是用这三个编码集表示中文字符,需要16位二进制数。

其中需要说明的是,目前中文版windows编码集采用GBK

支持中文,英文和特殊字符的编码:Unicode;UTF-8

Unicode既可以编码中文,也可以编码英文。采用2个字节来表示,也就是说表示一个字符需要16位二进制数。

UTF-8可以简单理解为Unicode的升级版。当表示英文时,用1个字节来表示,表示一个字符需要8位二进制数;当表示中文时,用3个字节来表示,表示一个字符需要24位二进制数。

简单了解常用编码集后,我们在Python3.4中可以实现各编码集之间的转换,其中需要说明的是Python3.4默认使用UTF-8编码集(为什么看网上资料说是Unicode???)。

以下是验证程序:

#Author: Lucas

importsysprint(sys.getdefaultencoding())

程序运行结果:

utf-8Process finished with exit code 0

当在Python中进行编码转换时,当字符编码不是Unicode时,我们都需要将字符先通过decode解码为Unicode,然后再进行encode编码,得到所期望的编码。

需要注意的是,decode时,我们需要告诉计算机,我们要把何种编码转换为Unicode。例如,你想要将UTF-8的编码转换为Unicode,写法如下:

decode(“UTF-8”)

接下来我们进行编码转化验证:

#Author: Lucas#将test转换为gbk编码

importsysprint(sys.getdefaultencoding())

s="你"s_to_unicode=s.decode("utf-8")

这就尴尬了,程序报错:

s_to_unicode=s.decode("utf-8")

AttributeError:'str' object has no attribute 'decode'utf-8

由此猜想,网上说的Python默认编码应该指的是当Python解释器来运行程序时,采用Unicode编码运行,而程序保存格式应该为UTF-8。

接下来按照假设将test编码转为gbk:

#Author: Lucas#将test转换为gbk编码

importsysprint(sys.getdefaultencoding())

test="你"test_to_gbk=test.encode("gbk")print(test_to_gbk)

运行结果如下:

utf-8b'\xc4\xe3'Process finished with exit code 0

可以看出,Python3在运行程序时,默认编码格式确实是Unicode,我们成功将test转换成gbk编码,可以看出test在gbk编码中占用2个字节,16位二进制数,分别是c4,e3

接下来我们将test转成utf-8,这就需要经历解码和编码的过程。程序如下:

#Author: Lucas#将test转换为gbk编码

importsysprint(sys.getdefaultencoding())

test="你"test_to_gbk=test.encode("gbk")print(test_to_gbk)

test_to_gbk_utf8=test_to_gbk.decode("gbk").encode("utf-8")print(test_to_gbk_utf8)

程序运行如下:

utf-8b'\xc4\xe3'b'\xe4\xbd\xa0'Process finished with exit code 0

可以看出成功将test转成了utf-8编码,其中test占用3个字节,24位二进制数,分别为e4,bd,a0。

至此,我们基本熟悉了Python环境下的编码转化规则,其余编码操作流程都是一样的。

总结:

当进行编码转换时,我们需要知道当前版本python解释器在运行程序时默认的编码格式。在此基础上,当我们进行编码转换时,牢记:Unicode编码是中间编码,其他编码之间相互转换时,需要先将其解码(decode)为Unicode,然后再编码(encode)成对应编码。Unicode时刻放在心中,我们在编码转换时就会游刃有余。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值