转自:http://m.blog.csdn.net/DanceWithCode1990/article/details/51154681
在项目中遇到了需要在Lua中计算含中文的字符串的字符串长度。
当时想当然的就用了string.len(“确定”) 发现输出时竟然是6!后来才知道 ,由于文件编码格式是UTF-8,所以一个中文是3个字节!所以这也不难解释为何“确定”的长度是6了。 至于UTF-8的前世今生,以及具体格式,网上有很多不错的讲解,以下是一位同行的形象讲解。
“先从字符编码讲起。
1、美国人首先对其英文字符进行了编码,也就是最早的ascii码,用一个字节的低7位来表示英文的128个字符,高1位统一为0;
2、后来欧洲人发现尼玛你这128位哪够用,比如我高贵的法国人字母上面的还有注音符,这个怎么区分,得,把高1位编进来吧,这样欧洲普遍使用一个全字节进行编码,最多可表示256位。欧美人就是喜欢直来直去,字符少,编码用得位数少;
3、但是即使位数少,不同国家地区用不同的字符编码,虽然0–127表示的符号是一样的,但是128–255这一段的解释完全乱套了,即使2进制完全一样,表示的字符完全不一样,比如135在法语,希伯来语,俄语编码中完全是不同的符号;
4、更麻烦的是,尼玛这电脑高科技传到中国后,中国人发现我们有10万多个汉字,你们欧美这256字塞牙缝都不够。于是就发明了GB2312这些汉字编码,典型的用2个字节来表示绝大部分的常用汉字,最多可以表示65536个汉字字符,这样就不难理解有些汉字你在新华字典里查得到,但是电脑上如果不处理一下你是显示不出来的了吧。
5、这下各用各的字符集编码,这世界咋统一?俄国人发封email给中国人,两边字符集编码不同,尼玛显示都是乱码啊。为了统一,于是就发明了unicode,将世界上所有的符号都纳入其中,每一个符号都给予一个独一无二的编码,现在unicode可以容纳100多万个符号,每个符号的编码都不一样,这下可统一了,所有语言都可以互通,一个网页页面里可以同时显示各国文字。
6、然而,unicode虽然统一了全世界字符的二进制编码,但没有规定如何存储啊,亲。x86和amd体系结构的电脑小端序和大端序都分不清,别提计算机如何识别到底是unicode还是acsii了。如果Unicode统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,文本文件的大小会因此大出二三倍,这对于存储来说是极大的浪费。这样导致一个后果:出现了Unicode的多种存储方式。
7、互联网的兴起,网页上要显示各种字符,必须统一啊,亲。utf-8就是Unicode最重要的实现方式之一。另外还有utf-16、utf-32等。UTF-8不是固定字长编码的,而是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。这是种比较巧妙的设计,如果一个字节的第一位是0,则这个字节单独就是一个字符;如果第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。
8、注意unicode的字符编码和utf-8的存储编码表示是不同的,例如”严”字的Unicode码是4E25,UTF-8编码是E4B8A5,这个7里面解释了的,UTF-8编码不仅考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。
9、UTF-8 使用一至四个字节为每个字符编码。128 个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)需要二个字节,其他基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其他 Unicode 辅助平面的字符使用四字节编码。
10、最后,要回答你的问题,常规来看,中文汉字在utf-8中到底占几个字节,一般是3个字节,最常见的编码方式是1110xxxx 10xxxxxx 10xxxxxx”
由此可见,这个字符是否问中文是可以判断的,因为如果是汉字 那么这个字符的第一个字节的高三位(即1110xxxx中的111)一定是111,第四位是0,所以这个字节换算成数字的话最小值是224(11100000)最大值是238(11101111),所以如果我们读到一个字节,他的数值介于224与238之间,那么我们就可以判定,这个字节以及其后的两个字节,共三个字节组成一个汉字。
这样我们就可以以此为基础写一个计算字符长度的函数:
function string.widthSingle(inputstr)
-- 计算字符串宽度
-- 可以计算出字符宽度,用于显示使用
local lenInByte = #inputstr
local width = 0
local i = 1
while (i<=lenInByte)
do
local curByte = string.byte(inputstr, i)
local byteCount = 1;
if curByte>0 and curByte<=127 then
byteCount = 1 --1字节字符
elseif curByte>=192 and curByte<223 then
byteCount = 2 --双字节字符
elseif curByte>=224 and curByte<239 then
byteCount = 3 --汉字
elseif curByte>=240 and curByte<=247 then
byteCount = 4 --4字节字符
end
local char = string.sub(inputstr, i, i+byteCount-1)
print(char)
i = i + byteCount -- 重置下一字节的索引
width = width + 1 -- 字符的个数(长度)
end
return width
end
在学习时,我搜到了别的同学提供的方法 ,但这个方法似乎有错误:
以下摘自:http://www.cocoachina.com/bbs/read.php?tid=221995
localstr = "Jimmy: 你好,世界!"
localfontSize = 20
locallenInByte = #str
localwidth = 0
fori=1,lenInByte do
localcurByte = string.byte(str, i)
localbyteCount = 1;
ifcurByte>0 andcurByte<=127 then
byteCount = 1
elseifcurByte>=192 andcurByte<223 then
byteCount = 2
elseifcurByte>=224 andcurByte<239 then
byteCount = 3
elseifcurByte>=240 andcurByte<=247 then
byteCount = 4
end
localchar = string.sub(str, i, i+byteCount-1)
i = i + byteCount -1
ifbyteCount == 1 then
width = width + fontSize * 0.5
else
width = width + fontSize
print(char)
end
end
print("总宽度: "..width)
这里面有几个问题
1.lua中for循环中的i每次都是自增的文中的i = i + byteCount -1 并没有改变i的值
2.下一字节的索引错误了i
= i + byteCount -1 应该为i = i + byteCount