字符串和字节码
Python3 有两种表示字符序列的类型:bytes和str。前者的实例包含原始的8位值【即一个字节码由8个二进制位组成】;后者的实例包含Unicode字符。
Python2 也有两种表示字符序列的类型:str和Unicode。前者的实例包含原始的8位值【即一个字节码由8个二进制位组成】;后者的实例包含Unicode字符。
Python2和Python3的字符串和字节码的编码和解码对应关系如下图:
UTF-8和Unicode关系
Unicode 是“字符集”,UTF-8 是“编码规则”。
其中,“字符集”的意思是:为每一个“字符‘”分配一个唯一的 ID(学名为码位 / 码点 / Code Point);“编码规则”的意思是:将“码位”转换为字节序列的规则(编码/解码 可以理解为 加密/解密 的过程)。
广义的Unicode是一个标准,定义了一个“字符集”以及一系列的“编码规则”,即Unicode“字符集”和UTF-8等“编码规则”。
Unicode字符集为每一个字符分配一个码位;UTF-8,是一套以8位为一个编码单位的可变长编码,会将一个码位编码为1到4个字节。
UTF-8的编码规则如下所示:
举个例子:
例如“知”的码位是 30693,记作 U+77E5。根据上表中的编码规则,“知”字的码位 U+77E5 属于第三行的范围:
这就是将 U+77E5 按照 UTF-8 编码为字节序列 E79FA5 的过程。
综上所述,UTF-8,以及UTF-16、UTF-32 都是 Unicode 的一种实现。