go - rune类型

Go语言使用rune类型处理多字节字符,如中文,以区别于占1字节的byte类型。在统计字符串长度和截取时,rune避免了字节计算的复杂性和可能出现的乱码问题。RuneCountInString函数通过判断字符码点和UTF-8编码验证来准确计算字符串长度。
摘要由CSDN通过智能技术生成

一、简介

rune类型是Go语言的一种特殊数字类型。
rune是类型int32的别名,在所有方面都等急啊于它,用来区分字符值跟整数值。
Go语言通过rune处理中文,支持国际化多语言。

字符串由字符组成,字符的底层由字节组成,而一个字符串在底层的表示是一个字节序列。
在 Go 语言中,字符可以被分成两种类型处理:
对占 1 个字节的英文类字符,可以使用byte(或者unit8);
对占 1 ~ 4 个字节的其他字符,可以使用rune(或者int32),如中文、特殊符号等。

二、适用场景

2.1 统计带中文字符串长度
	// 使用内置函数 len() 统计字符串长度
	fmt.Println(len("Go语言编程"))  // 输出:14

在上面示例中,英文字符占用 1 字节,中文字符占用 3 字节,所以得到的长度 14 显然是底层占用字节长度,而不是字符串长度,这时,便需要用到rune类型。

	// 转换成 rune 数组后统计字符串长度
	fmt.Println(len([]rune("Go语言编程")))  // 输出:6

更标准的用法:

	// 统计字符串长度
	fmt.Println(utf8.RuneCountInString("Go语言编程")) // 输出:6
2.2 截取带中文字符串

通常情况下,我们会这么做:

	s := "Go语言编程"
	// 8=2*1+2*3
	fmt.Println(s[0:8])  // 输出:Go语言

但按照字节的方式进行截取,必须预先计算出需要截取字符串的字节数,如果字节数计算错误,就会显示乱码,比如这样:

	s := "Go语言编程"
	fmt.Println(s[0:7]) // 输出:Go语�

此外,如果截取的字符串较长,那通过字节的方式进行截取显然不是一个高效准确的办法。那有没有不用计算字节数,简单又不会出现乱码的方法呢?不妨试试这样:

	s := "Go语言编程"
	// 转成 rune 数组,需要几个字符,取几个字符
	fmt.Println(string([]rune(s)[:4])) // 输出:Go语言

三、剖析

Go 语言把字符分byte和rune两种类型处理。
byte是类型unit8的别名,用于存放占 1 字节的 ASCII 字符,如英文字符,返回的是字符原始字节。
rune是类型int32的别名,用于存放多字节字符,如占 3 字节的中文字符,返回的是字符 Unicode 码点值。
如下图所示:

	s := "Go语言编程"
	// byte
	fmt.Println([]byte(s)) // 输出:[71 111 232 175 173 232 168 128 231 188 150 231 168 139]
	// rune
	fmt.Println([]rune(s)) // 输出:[71 111 35821 35328 32534 31243]

对应关系如下图:

3.1 RunCountInString方法源码解析
// RuneCountInString is like RuneCount but its input is a string.
func RuneCountInString(s string) (n int) {
	// 调用 len() 函数得到字节数
	ns := len(s)
	for i := 0; i < ns; n++ {
		c := s[i]
		// 如码点值小于 128,则为占 1 字节的 ASCII 字符(或者说英文字符),长度 + 1
		if c < RuneSelf { // RuneSelf = 128
			// ASCII fast path
			i++
			continue
		}
		// 查询首字节信息表,得到中文占 3 字节,所以这里的 x = 3
		x := first[c]
		// 判断 x = 3,xx = 241(0xF1)
		if x == xx {
			i++ // invalid.
			continue
		}
		// 提取有效的 UTF-8 字节长度编码信息,size = 3
		size := int(x & 7)
		if i+size > ns {
			i++ // Short or invalid.
			continue
		}
		// 提取有效字节范围
		accept := acceptRanges[x>>4]
		// accept.lo,accept.hi,表示 UTF-8 中第二字节的有效范围
		// locb = 0b10000000,表示 UTF-8 编码非首字节的数值下限
		// hicb = 0b10111111,表示 UTF-8 编码非首字节的数值上限
		if c := s[i+1]; c < accept.lo || accept.hi < c {
			size = 1
		} else if size == 2 {
		} else if c := s[i+2]; c < locb || hicb < c {
			size = 1
		} else if size == 3 {
		} else if c := s[i+3]; c < locb || hicb < c {
			size = 1
		}
		i += size
	}
	return n
}

调用该函数时,传入一个原始的字符串,代码会根据每个字符的码点大小判断是否为 ASCII 字符,如果是,则算做 1 位;如果不是,则查询首字节表,明确字符占用的字节数,验证有效性后再进行计数。

四、参考

[1]. 解析Go中的rune类型

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值