UTF-8
是一种变长字节编码方式。对于某一个字符的
UTF-8
编码,如果只有一个字节则其最高二进制位为
0
;如果是多字节,其第一个字节从最高位开始,连续的二进制位值为
1
的个数决定了其编码的位数,其余各字节均以
10
开头。
UTF-8
最多可用到
6
个字节。
如表:
1 字节 0xxxxxxx
2 字节 110xxxxx 10xxxxxx
3 字节 1110xxxx 10xxxxxx 10xxxxxx
4 字节 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
5 字节 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
6 字节 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
因此 UTF-8 中可以用来表示字符编码的实际位数最多有 31 位,即上表中 x 所表示的位。除去那些控制位(每字节开头的 10 等),这些 x 表示的位与 UNICODE 编码是一一对应的,位高低顺序也相同。
实际将 UNICODE 转换为 UTF-8 编码时应先去除高位 0 ,然后根据所剩编码的位数决定所需最小的 UTF-8 编码位数。
因此那些基本 ASCII 字符集中的字符( UNICODE 兼容 ASCII )只需要一个字节的 UTF-8 编码( 7 个二进制位)便可以表示。
对于上面的问题,代码中给出的两个字节是
十六进制: C0 B1
二进制: 11000000 10110001
对比两个字节编码的表示方式:
110xxxxx 10xxxxxx
提取出对应的 UNICODE 编码:
00000 110001
可以看出此编码并非 “ 标准 ” 的 UTF-8 编码,因为其第一个字节的 “ 有效编码 ” 全为 0 ,去除高位 0 后的编码仅有 6 位。由前面所述,此字符仅用一个字节的 UTF-8 编码表示就够了。
JAVA 在把字符还原为 UTF-8 编码时,是按照 “ 标准 ” 的方式处理的,因此我们得到的是仅有 1 个字节的编码。
大家可以试试运行这段代码:
public class TestUTF8 {
public static void main(String[] args) throwsException {
byte[][] bytes = {
// 00110001
{(byte)0x31},
// 11000000 10110001
{(byte)0xC0,(byte)0xB1},
// 11100000 10000000 10110001
{(byte)0xE0,(byte)0x80,(byte)0xB1},
// 11110000 10000000 10000000 10110001
{(byte)0xF0,(byte)0x80,(byte)0x80,(byte)0xB1},
// 11111000 10000000 10000000 10000000 10110001
{(byte)0xF8,(byte)0x80,(byte)0x80,(byte)0x80,(byte)0xB1},
如表:
1 字节 0xxxxxxx
2 字节 110xxxxx 10xxxxxx
3 字节 1110xxxx 10xxxxxx 10xxxxxx
4 字节 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
5 字节 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
6 字节 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
因此 UTF-8 中可以用来表示字符编码的实际位数最多有 31 位,即上表中 x 所表示的位。除去那些控制位(每字节开头的 10 等),这些 x 表示的位与 UNICODE 编码是一一对应的,位高低顺序也相同。
实际将 UNICODE 转换为 UTF-8 编码时应先去除高位 0 ,然后根据所剩编码的位数决定所需最小的 UTF-8 编码位数。
因此那些基本 ASCII 字符集中的字符( UNICODE 兼容 ASCII )只需要一个字节的 UTF-8 编码( 7 个二进制位)便可以表示。
对于上面的问题,代码中给出的两个字节是
十六进制: C0 B1
二进制: 11000000 10110001
对比两个字节编码的表示方式:
110xxxxx 10xxxxxx
提取出对应的 UNICODE 编码:
00000 110001
可以看出此编码并非 “ 标准 ” 的 UTF-8 编码,因为其第一个字节的 “ 有效编码 ” 全为 0 ,去除高位 0 后的编码仅有 6 位。由前面所述,此字符仅用一个字节的 UTF-8 编码表示就够了。
JAVA 在把字符还原为 UTF-8 编码时,是按照 “ 标准 ” 的方式处理的,因此我们得到的是仅有 1 个字节的编码。
大家可以试试运行这段代码:
public class TestUTF8 {
public static void main(String[] args) throwsException {
byte[][] bytes = {
// 00110001
{(byte)0x31},
// 11000000 10110001
{(byte)0xC0,(byte)0xB1},
// 11100000 10000000 10110001
{(byte)0xE0,(byte)0x80,(byte)0xB1},
// 11110000 10000000 10000000 10110001
{(byte)0xF0,(byte)0x80,(byte)0x80,(byte)0xB1},
// 11111000 10000000 10000000 10000000 10110001
{(byte)0xF8,(byte)0x80,(byte)0x80,(byte)0x80,(byte)0xB1},