一、编码方式发展史
因为计算机只能处理数字,如果要处理文本,就必须先把文本转换为数字才能处理。一个字节 = 八个比特,所以一个字节所能表示的最大整数为255。由于,计算机是美国人发明的,因此最早只有127个字符被编码到计算机里,也就是大小写字母、数字和一些符号,这个编码表被称为ASCII编码。
但是要处理中文显然一个字节是不够的,至少需要两个字节,而且还不能和ASCII编码冲突,所以中国制定了GB2312编码,用来把中文编进去。那么问题来了,全世界这么多种语言,那岂不是要对应多种编码?但是,当这些语言混在一起时,肯定会出现编码冲突。如何解决这个问题呢?Unicode编码应运而生。
Unicode编码把所有语言统一到一套编码里,这样就不会有乱码了,Unicode编码通常用两个字节表示一个字符(如果要用到非常偏僻的字符,就需要4个字节)。现代计算机操作系统和大多数编程语言都支持Unicode编码。所以Unicode和ASCII编码最大的区别就在于:ASCII编码是一个字节,Unicode通常是两个字节,当然ASCII里的字符Unicode里面都有。不难想象,ASCII编码的 A用Unicode编码,只需要在前面补0就可以,因此,A
的Unicode编码是00000000 01000001
。
这样做的话,乱码问题得到了解决,但新的问题又出现了:如果写的文本基本上全部是英文的话,用Unicode编码比ASCII编码需要多一倍的存储空间,在储存和运输上十分不划算。所以UTF-8编码应运而生。
UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文被编码成一个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6字节。如果要传输的文本有大量英文字符的话,用UTF-8编码会就能节省空间。
从上面的表格还可以发现,UTF-8编码有一个额外的好处,就是ASCII编码实际上可以被看成是UTF-8编码的一部分,所以,大量只支持ASCII编码的历史遗留软件可以在UTF-8编码下继续工作。
二、计算机系统通用的字符编码工作方式
从上面,可以看出ASCII、Unicode和UTF-8的关系,那么计算机系统通用的字符编码工作方式是怎样的呢?
在计算机内存中,统一使用Unicode编码,当需要保存到硬盘或者传输的时候,就转换为UTF-8编码。用记事本编辑的时候,从文件读取的UTF-8字符被转换为Unicode字符到内存里,编辑完成后,保存的时候再把Unicode转换为UTF-8保存到文件,如下图所示:
浏览网页的时候,服务器会把动态生成的Unicode内容转换为UTF-8再传输到浏览器:
三、Python3的字符串编码格式
在最新的Python3版本中,字符串是以Unicode编码的,也就是说Python3的字符串支持多语言。
对于单个字符编码,Python提供了ord()函数获取字符的整数表示,chr()函数把编码转换成对应的字符,如下:
如果你知道了字符的整数编码,还可以用十六进制这么写str: