Java中的字符编码

Unicode

是计算机科学领域里的一项业界标准，包括字符集、编码方案等。Unicode并不是一套具体实现的字符集！而是一种标准。Unicode字符集定义了(几乎)所有字符到二进制序列的一种映射关系，也可以认为是字符到无符号整数的映射，比如，字符’a’对应49

字符集(字符编码)

字符集做的就是将字符唯一映射到一个二进制编码并具体实现它。如：ascii，utf-8，utf-16，utf-16be，utf-16le。值得注意的是，字符集并不一定就是unicode的实现，如ascii编码，仅仅可以表示英文字母与常用字符，不能表示汉字（ascii不能，但是可以通过某种扩展实现）

码点code point & 码元code unit

code point对应一个字符的完整二进制表示

code unit对应一种字符集中的最小编码单位，比如utf-8的最小编码单位是8bit，一个code unit就是就是8bit，utf-8可能需要1~6个code unit来表示一个字符，所以一个utf-8字符可能有1，2，3，4字节；而对于utf-16来说，一个code unit是16bit，即2字节，一个code point对于1个或2个code unit，即一个utf-16编码的字符可能是2字节或4字节。

小端模式Little Endian & 大端模式Big Endian

端endian的来源

在各种计算机体系结构中，对于字节、字等的存储机制有所不同，因而引发了计算机通信领域中一个很重要的问题，即通信双方交流的信息单元（比特、字节、字、双字等等）应该以什么样的顺序进行传送。如果不达成一致的规则，通信双方将无法进行正确的编/译码从而导致通信失败。

– 百度百科

不同的CPU有不同的字节序类型，这些字节序是指整数在内存中保存的顺序。

最常见的有两种

• Little-endian：将低序字节存储在起始地址（低位编址）
• Big-endian：将高序字节存储在起始地址（高位编址）

LE（little-endian）：

最符合人的思维的字节序：地址低位存储值的低位，地址高位存储值的高位。

怎么讲是最符合人的思维的字节序，是因为从人的第一观感来说：低位值小，就应该放在内存地址小的地方，也即内存地址低位；反之，高位值就应该放在内存地址大的地方，也即内存地址高位

BE（big-endian）：

最直观的字节序：地址低位存储值的高位，地址高位存储值的低位。

为什么说直观，不要考虑对应关系：只需要把内存地址从左到右按照由低到高的顺序写出，把值按照通常的高位到低位的顺序写出；两者对照，一个字节一个字节的填充进去

Unicode规范中定义，每一个文件的最前面分别加入一个表示编码顺序的字符，这个字符的名字叫做”零宽度非换行空格“（ZERO WIDTH NO-BREAK SPACE），用FEFF表示。这正好是两个字节，而且FF比FE大1。

如果一个文本文件的头两个字节是FE FF，就表示该文件采用大端模式；如果头两个字节是FF FE，就表示该文件采用小端模式。

ASCII

ASCII ((American Standard Code for Information Interchange): 美国信息交换标准代码）是基于拉丁字母的一套电脑编码系统，主要用于显示现代英语和其他西欧语言。它是最通用的信息交换标准，并等同于国际标准ISO/IEC 646。ASCII第一次以规范标准的类型发表是在1967年，最后一次更新则是在1986年，到目前为止共定义了128个字符

– 百度百科

UTF-8

UTF-8是Unicode字符集的一种实现，它是一种变长字节编码。对于某一个字符的UTF-8编码，其编码规则为

• 如果只有一个字节则其最高二进制位为0
• 如果是多字节，其第一个字节从最高位开始，连续的二进制位值为1的个数决定了其编码的位数，其余各字节均以10开头。UTF-8最多可用到6个字节。

如：

1字节 0xxxxxxx
2字节 110xxxxx 10xxxxxx
3字节 1110xxxx 10xxxxxx 10xxxxxx
4字节 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

所以，UTF-8是兼容ASCII的。

对于汉字来说，一个汉字需要3个code unit来表示，即对于UTF-8而言，一个汉字需要3byte的字节序列来编码

UTF-16 & UTF-16be & UTF-16le

Java的运行时内部字符串就是用的UTF-16。即使JVM启动时，可以指定-Dfile.encoding=UTF-8或者别的，但这只是指定的读取文件或者输出字节序列，比如读取.class文件时的字符编码，在运行时，包括Java自己的序列化机制，就是UTF-16。

UTF-16是Unicode字符编码五层次模型的第三层：字符编码表（Character Encoding Form，也称为 “storage format”）的一种实现方式。即把Unicode字符集的抽象码位映射为16位长的整数（即码元）的序列，用于数据存储或传递。Unicode字符的码位，需要1个或者2个16位长的码元来表示，因此这是一个变长表示。

– 百度百科

对于汉字来说，一个汉字只需要一个UTF-16 code unit 即 2byte，所以，如果是需要保存一个很大的中文文档，使用UTF-16编码可以比使用UTF-8编码，节省一半的空间。

UTF-16be:UTF-16的big endian编码模式

UTF-16le:UTF-16的little endian编码模式

java中的相关方法

• String.length()：方法返回的是字符串中char的字符个数，也就是code unit的个数
• String.codePointCount()：方法返回字符串中的code point个数
• char String.charAt(index)：方法返回index位置的code unit
  int String.codePointAt(index)：方法返回index位置的code point。这也是这个方法的返回值是int而不是char的原因
• String.getBytes({charset})：返回字符串的字节序列长度。需要注意的是，此方法的无参重载默认使用jvm的file.encoding对应的字符集，一般是utf-8。所以，一个汉字，比如：“莹”.getBytes()，会返回三个字节；而"莹".getBytes(“UTF-16”)会返回4个字节，前两个字节是大小端标识。**对于一个字符串，只有第一个字符需要大小端标识 **；另外，“莹”.getBytes(“UTF-16be”)或者是"莹".getBytes(“UTF-16le”)会返回两个字节，因为大小端已经制定，不需要额外再标识了。同理对于"中国人".getBytes(“xxx”)方法来说，utf-8/utf-16/utf-16be/utf-16le分别需要9/8/6/6个字节来表示
• new String(byte[],String):以制定的字符集来编码字节序列