1.应用领域:
全角和半角的转换通常用在自然语言处理过程中,由于全角和半角的不一致会导致信息抽取不一致,在使用语料训练语言模型会导致模型的效果不准确,所以需要统一。
2.全角半角转换概述
- 全角字符unicode编码范围从65281~65374 (对应的十六进制范围是: 0xFF01 ~ 0xFF5E)
- 半角字符unicode编码范围从33~126 (对应的十六进制范围从 0x21~ 0x7E)
- 空格比较特殊,全角为12288(0x3000),半角为 32 (0x20)
- 除空格外, 全角/半角按unicode编码排序在顺序上是对应的(半角 +65248 = 全角 or 半角 + 0x7e= 全角 )
- 所以可以直接通过用±法来处理非空格数据,对空格单独处理
3.请注意:
中文文字永远是全角,只有英文字母、数字键、符号键才有全角半角的概念。
一个字母或数字占一个汉字的位置叫全角,占半个汉字的位置叫半角。
引号在中英文、全半角情况下是不同的
4.应用到的库函数
- chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。