概述
字符编码
早期
早期的时候只有一些大小写的英文字母,数字和一些符号被编码到计算机里,这个编码表就被称为 ASCII 编码。
发展
但是随着计算机的发展,原来的 ASCII 已经不能表示格式各样的语种(中文,日文,韩文等)。于是各个国家的计算机专家就设计了各种语言的编码,如中国的 GB2312,日本把日文编到 Shift_JIS 里,韩国把韩文编到Euc-kr 里。每个国家都有自己的标准,没有统一就会造成在多语言混合的文档中,会出现乱码。(里面的本质就是用什么值来表示一个字)。
统一
为了避免各国之间的编码冲突,Unicode应运而生。Unicode把所有语言都统一到一套编码里,这样就不会再有乱码问题了。Unicode标准也在不断发展,但最常用的是用两个字节表示一个字符(如果要用到非常偏僻的字符,就需要4个字节)。现代操作系统和大多数编程语言都直接支持Unicode。
改进
新的问题又出现了:如果统一成Unicode编码,乱码问题从此消失了。但是,如果你写的文本基本上全部是英文的话,
用Unicode编码比ASCII编码需要多一倍的存储空间,在存储和传输上就十分不划算。本着节约的精神,又出现了把Unicode编码转化为“可变长编码”的UTF-8编码。
UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间: