unicode 和 UTF-8

最新推荐文章于 2024-05-25 17:41:43 发布

xxhxuexi

最新推荐文章于 2024-05-25 17:41:43 发布

阅读量93

点赞数

分类专栏：基础知识

本文链接：https://blog.csdn.net/xxhxuexi/article/details/84472463

版权

基础知识专栏收录该内容

9 篇文章 0 订阅

订阅专栏

Unicode和UTF-8之间的转换详解

通过这几天的研究，终于明白了Unicode和UTF-8之间编码的区别。Unicode是一个字符集，而UTF-8

是Unicode的其中一种，Unicode是定长的都为双字节，而UTF-8是可变的，对于汉字来说Unicode

  占有的字节比UTF-8占用的字节少1个字节。Unicode为双字节，而UTF-8中汉字占三个字节。
                         网魂小兵 http://xdotnet.cnblogs.com
    UTF-8编码字符理论上可以最多到6个字节长,然而16位BMP（Basic Multilingual Plane ）字符最多

   只用到3字节长。下面看一下UTF-8编码表：

       U-00000000 - U-0000007F: 0xxxxxxx
        U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
        U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
        U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
        U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
        U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

    xxx 的位置由字符编码数的二进制表示的位填入，越靠右的 x 具有越少的特殊意义，只用最短

的那个足够表达一个字符编码数的多字节串。注意在多字节串中, 第一个字节的开头"1"的数目

就是整个串中字节的数目。而第一行中以0开头，是为了兼容ASCII编码，为一个字节，第二行

就为双字节字符串，第三行为3字节，如汉字就属于这种，以此类推。( 个人认为：其实我们

可以简单的把前面的1的个数看成字节数)
网魂小兵 http://xdotnet.cnblogs.com
为了要将Unicode转换为UTF-8，当然要知道他们的区别到底在什么地方。下面来看一下，在Unicode

中的编码是怎样转换成UTF-8的，在UTF-8中，如果一个字符的字节小于0x80（128）则为ASCII字符，

占一个字节，可以不用转换，因为UTF-8兼容ASCII编码。假如在Unicode中汉字“你”的编码为“u4F60”，

把它转换为二进制为100111101100000，然后按照UTF-8的方法进行转换。

可以将Unicode二进制从低位往高位取出二进制数字，每次取6位，

如上述的二进制就可以分别取出为如下所示的格式，前面按格式填补，不足8位用0填补。

       unicode: 100111101100000                  4F60

           utf-8:     11100100, 10111101, 10100000       E4BDA0

从上面就可以很直观的看出Unicode到UTF-8之间的转换，当然知道了UTF-8的格式后，就可以

进行逆运算，就是按照格式把它在二进制中的相应位置上取出，然后在转换就是所得到的Unicode字符了

（这个运算可以通过“位移”来完成）。
网魂小兵 http://xdotnet.cnblogs.com
如上述的“你”的转换，由于其值大于0x800小于0x10000，因此可以判断为三字节存储，

则最高位需要向右移“12”位再根据三字节格式的最高位为11100000（0xE0）

求或（|）就可以得到最高位的值了。同理第二位则是右移“6”位，则还剩下最高位和第二位的二进制值，

可以通过与111111（0x3F）求按位于（&）操作，再和11000000（0x80）求或（|）。

第三位就不用移位了，只要直接取最后六位（与111111（ox3F）取&），

在与11000000(0x80)求或（|）。OK了，转换成功！在 VC++中的代码如下所示（Unicode到UTF-8的转换）。

        1 const wchar_t pUnicode = L " 你 " ;
        2 char utf8[ 3 + 1 ];
        3 memset(utf8, 0 , 4 );
        4 utf8 [ 0 ] = 0xE0 | (pUnicode >> 12 );
        5 utf8 [ 1 ] = 0x80 | ((pUnicode >> 6 ) & 0x3F );
        6 utf8 [ 2 ] = 0x80 | (pUnicode & 0x3F );
        7 utf8 [ 3 ] = " \0 " ;
        8 // char[4]就是UTF-8的字符“你”了。

当然在UTF-8到Unicode的转换也是通过移位等来完成的，就是把UTF-8那些格式相应的位置的二进制数给揪出来。

在上述例子中“你”为三个字节，因此要每个字节进行处理，有高位到低位进行处理。

在UTF-8中“你”为 11100100, 10111101, 10100000。从高位起即第一个字节 11100100就是把其中的"0100"给取出来，

这个很简单只要和11111（0x1F）取与（&），由三字节可以得知最到位肯定位于12位之前，因为每次取六位。

所以还要将得到的结果左移12位，最高位也就这样完成了 0100,000000,000000。

而第二位则是要把“111101”给取出来，则只需将第二字节 10111101和111111(0x3F)取与（&）。

在将所得到的结果左移6位与最高字节所得的结果取或（|），第二位就这样完成了，

得到的结果为0100,111101,000000。以此类推最后一位直接与111111（0x3F）取与（&），

再与前面所得的结果取或（|）即可得到结果0100,111101,100000。 OK，转换成功！

在 VC++中的代码如下所示（ UTF-8 到 Unicode 的转换）。

    1 // UTF-8格式的字符串
    2 const char * utf8 = " 你 " ;
    3 wchar_t unicode;
    4 unicode = (utf8[ 0 ] & 0x1F ) << 12 ;
    5 unicode |= (utf8[ 1 ] & 0x3F ) << 6 ;
    6 unicode |= (utf8[ 2 ] & 0x3F );
    7 // unicode is ok!

网魂小兵 http://xdotnet.cnblogs.com
当然在编程过程中不可能只转换一个字符，

这里需要注意的是字符的长度一定要算清楚，

不然会带来...以上就是我这几天研究的结果，

至于Unicode的转换为GB2312在MFC中Windows有自带的API（WideChar To MultiByte ）可以转换。

这样也就能够将UTF-8格式转换为GB2312了，这里就不再赘述，如果大家有更好的方法希望指教。

标签：