总结:Unicode、GBK、UTF-8之间的区别

15 篇文章 0 订阅
14 篇文章 0 订阅

Unicode:所有字符都是两个字节,对于英文字符,高字节为0,低字节与ASCII码相同

GB2312:一个小于127的字符的意义与原来相同, 但两个大于127的字符连在一起时, 就表示
一个汉字, 前面的一个字节(他称之为高字节)从0xA1用到 0xF7, 后面一个字节(低字节)
从0xA1到0xFE, 这样我们就可以组合出大约7000多个简体汉字了. 在这些编码里, 我们还
把数学符号,罗马希腊的 字母,日文的假名们都编进去了, 连在 ASCII 里本来就有的数字
,标点,字母都统统重新编了两个字节长的编码, 这就是常说的"全角"字符, 而原来在127
号以下的那些就叫"半角"字符了。

GBK:中文字符为两个字节;英文字符为1个字节,且与ASCII码相同。GBK主要是为了弥补GB2312中文字符不足的问题,GBK不再限定低字节必须大于127了,由此扩展了20000多个码位;GBK与Unicode是完全不同的两种编码形式,没有转换规则,互相之间的转换只能通过查表法。

UTF-8:其编码规则为:

其英文字符为一个字节,中文字符为3个字节,中文字符使用的Unicode码,因此要把GBK转成UTF-8,要先转成Unicode。

 

综上,对于包含中英文字符的文件,用GBK和GB2312最省流量;对于只包含英文字符的文件用除Unicode以外的任意编码都一样;Unicode在任何情况下都不具备优势;而GBK和GB2312似乎在任何情况下都具备优势,这就是为什么GBK和GB2312能够后来居上了。

附GBK转Unicode函数:

void gbk2unicode(char *gbk, char *unicode)
{
    unsigned short code_gbk,code_uni;

    int slen=strlen(gbk);
    int ulen=0;
    int k=0;
    while(k<slen)
    {
        if(gbk[k]<0x80)
        {
            unicode[ulen++]=0;
            unicode[ulen++]=gbk[k];
            k+=1;
        }
        else
        {
            code_gbk=0;
            code_gbk+=gbk[k];
            k+=1;
            code_gbk<<=8;
            code_gbk+=gbk[k];
            code_uni=ff_convert(code_gbk,1);
            unicode[ulen++]=code_uni>>8;
            unicode[ulen++]=code_uni&0xff;
            k+=1;
        }
    }
}

其中的 ff_convert 函数来自cc936.c,其实就是执行了个查表操作。

附Unicode转UTF-8函数:

void UnicodeToUtf8(char* pInput, char *pOutput)
{
    int ulen=0;
    unsigned short code_uni;

    int k=0;
    while(pInput[k]!=0 || pInput[k+1]!=0)
    {
        code_uni=0;
        code_uni+=pInput[k];
        code_uni<<=8;
        k++;
        code_uni+=pInput[k];
        k++;
        // printf("codeuni=%d,ulen=%d\n", code_uni,ulen);
        if(code_uni<0x80)
        {
            pOutput[ulen++]=code_uni;
        }
        else
        {
            if(code_uni<0x800)
            {
                pOutput[ulen++]=0xc0|code_uni>>6;  //高5位
                pOutput[ulen++] = 0x80 | (code_uni & 0x3f);
            }
            else
            {
                pOutput[ulen++]=0xe0|code_uni>>12; //高4位
                pOutput[ulen++] = 0x80 | ((code_uni >> 6) & 0x3f);    //中间6位
                pOutput[ulen++] = 0x80 | (code_uni & 0x3f);           //低6位
            }
        }
    }
    pOutput[ulen]=0;
} 

 

  • 3
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值