字符编码简介(ASCII,Unicode,UTF-8等)

​一、字节&字符

字节 = 8位的物理存储单元;字符只是一个文化符号
8位(bit,简写b)=1字节(Byte,简写B)

二、ASCII码

0-32:0x20以下的字节状态(16进制) --》控制码
0-127 = 控制码 + 空格、标点、数字、大小写字母 --》ANSI(ASCII编码)
128-255 = 新字母、符号、画表格的横竖线等其他形状 --》扩展字符集
0-255 = ASCII码(0-127) + 扩展字符集(128-255)

三、中文编码(GB2312、GBK、GB18030)

取消掉127之后的符号,2个大于127的字符连接在一起 = 汉字 --》7000多简体汉字、数学符号、罗马希腊字母、日文假名、原ASCII码重编码为两字节 = 全角字符
原来的ASCII码 = 半角字符

半角(0-127) + 全角(2个127以上的字符连接) = GB2312

ASCII码 + 字节1在127以上,字节2不限制 = DBCS(Double Byte Charecter Set 双字节字符集 --》GBK

GBK = GB2312 + 20000个新汉字繁体字和符号
GB18030 = GBK + 几千个新的少数名族的字

四、Unicode & UTF8

ISO(国际标准化组织)重新编码,字符都变为2字节,原来的ASCII码只需要用到低8位,高位补0 --》UCS(Universal Multiple-Octet Coded Character Set) --》Unicode

为解决Unicode的网络传输问题,生出面向传输的 UTF(UCS Transfer Format)标准。Utf-8每次8位传输数据,utf-16每次16个位。Utf-8是一种边长的编码方式,可使用1-4字节表示符号,一个英文字符占1个字节,一个中文字符占3个字节。

UTF8转化算法规则:
单字节的字符:字节的第一位设为0,英文字符=ASCII码。
n字节的字符(n>1):第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,其余空位填Unicode字符,高位补0。
(这里的n字节的字符是指转化为utf-8后的字节数)

utf-8 转化的结果如下:
0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

五、遗留问题

除非遇到麻烦不会再留意的东西
其他字符编码问题
不可见字符
等等

六、参考文章:

https://www.cnblogs.com/yangguoe/p/8467672.html
https://www.zhihu.com/question/23374078
https://www.cnblogs.com/zhcncn/articles/3035561.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值