UTF-8的编码规则很简单,只有二条: 1)对于单字节的符号,字节的第一位设为0,后面7位为这个符号的unicode码。因此对于英语字母,UTF-8编码和ASCII码是相同的。 2)对于n字节的符号(n>1),第一个字节的前n位都设为1,第n+1位设为0,后面字节的前两位一律设为10。剩下的没有提及的二进制位,全部为这个符号的unicode码。
举个例子,已知“严”的unicode是4E25(100111000100101),根据上表,可以发现4E25处在第三行的范围内 (0000 0800-0000 FFFF),因此“严”的UTF-8编码需要三个字节,即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然后,从“严”的最后一个二进制位开始,依次从后向前填入格式中的x,多出的位补0。这样就得到了,“严”的UTF-8编码是 “11100100 10111000 10100101”,转换成十六进制就是E4B8A5。
bool IsUTF8(char * str, int len)
{
int bytes = 0;
bool allAscii = true;
for(int i = 0 ;i < len;i++)
{
unsigned char c = str[i];
if(c & 0x80)
allAscii = false;
if(bytes==0)
{
if(c & 0x80)
{
while(c&0x80)
{
c <<= 1;
bytes += 1;
}
if(bytes<2 && bytes>6)
return false;
bytes--;
}
}
else
{
if((c & 0xc0) != 0x80)
return false;
bytes--;
}
}
if(allAscii)
return false;
return bytes == 0;
}