一、字节&字符
字节 = 8位的物理存储单元;字符只是一个文化符号
8位(bit,简写b)=1字节(Byte,简写B)
二、ASCII码
0-32:0x20以下的字节状态(16进制) --》控制码
0-127 = 控制码 + 空格、标点、数字、大小写字母 --》ANSI(ASCII编码)
128-255 = 新字母、符号、画表格的横竖线等其他形状 --》扩展字符集
0-255 = ASCII码(0-127) + 扩展字符集(128-255)
三、中文编码(GB2312、GBK、GB18030)
取消掉127之后的符号,2个大于127的字符连接在一起 = 汉字 --》7000多简体汉字、数学符号、罗马希腊字母、日文假名、原ASCII码重编码为两字节 = 全角字符
原来的ASCII码 = 半角字符
半角(0-127) + 全角(2个127以上的字符连接) = GB2312
ASCII码 + 字节1在127以上,字节2不限制 = DBCS(Double Byte Charecter Set 双字节字符集 --》GBK
GBK = GB2312 + 20000个新汉字繁体字和符号
GB18030 = GBK + 几千个新的少数名族的字
四、Unicode & UTF8
ISO(国际标准化组织)重新编码,字符都变为2字节,原来的ASCII码只需要用到低8位,高位补0 --》UCS(Universal Multiple-Octet Coded Character Set) --》Unicode
为解决Unicode的网络传输问题,生出面向传输的 UTF(UCS Transfer Format)标准。Utf-8每次8位传输数据,utf-16每次16个位。Utf-8是一种边长的编码方式,可使用1-4字节表示符号,一个英文字符占1个字节,一个中文字符占3个字节。
UTF8转化算法规则:
单字节的字符:字节的第一位设为0,英文字符=ASCII码。
n字节的字符(n>1):第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,其余空位填Unicode字符,高位补0。
(这里的n字节的字符是指转化为utf-8后的字节数)
utf-8 转化的结果如下:
0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
五、遗留问题
除非遇到麻烦不会再留意的东西
其他字符编码问题
不可见字符
等等
六、参考文章:
https://www.cnblogs.com/yangguoe/p/8467672.html
https://www.zhihu.com/question/23374078
https://www.cnblogs.com/zhcncn/articles/3035561.html