python安全课程开发第一章第二节字符编码
字符编码
由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122。
但是要处理中文显然一个字节是不够的,至少需要两个字节,而且还不能和ASCII编码冲突,所以,中国制定了GB2312编码,用来把中文编进去,其实对于安全人员字符编码问题在python3.x中也不像Python2.7那么重要了。还是了解下:
ASCII & Unicode
现在,捋一捋ASCII编码和Unicode编码的区别:ASCII编码是1个字节,而Unicode编码通常是2个字节。
字母“A”用ASCII编码是十进制的65,二进制的01000001;
字符“0”用ASCII编码是十进制的48,二进制的00110000,注意字符’0’和整数0是不同的;
汉字“中”已经超出了ASCII编码的范围,用Unicode编码是十进制的20013,二进制的01001110 00101101。
新的问题又出现了:如果统一成Unicode编码,乱码问题从此消失了。但是,如果你写的文本基本上全部是英文的话,用Unicode编码比ASCII编码需要多一倍的存储空间,在存储和传输上就十分不划算。
UTF-8
所以,本着节约的精神,又出现了把Unicode编码转化为“可变长编码”的UTF-8编码。UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间:
字符 | ASCII | Unicode | UTF-8 |
---|---|---|---|
A | 01000001 | 00000000 01000001 | 01000001 |
中 | 01001110 00101101 11100100 | 10111000 10101101 |
Python的字符串
python3.x使用的utf-8编码,下面做一些基本的编码转换的演示,这里python2.7和python3.x没有区别:
>>> ord('A')
65
>>> chr(65)
'A'
>>> chr(66)
'B'
Python2.7以Unicode表示的字符串用u’…'表示,当然python3.x不需要,所以大家知道即可,比如:
>>>#以下python2.7代码,本文不明确说明都是python3.x代码
>>> print u'中文'
中文
>>> u'中'
u'\u4e2d'
Unicode 和UTF-8互相转换
这种转化经常在爬网页然后转储的时候会遇到
把u’xxx’转换为UTF-8编码的’xxx’用encode(‘utf-8’)方法,可以看到utf-8的字符串用b’…'作为标识:
>>> u'ABC'.encode('utf-8')
b'ABC'
>>>u'中文'.encode('utf-8')
b'\xe4\xb8\xad\xe6\x96\x87'
把UTF-8编码表示的字符串’xxx’转换为Unicode字符串u’xxx’用decode(‘utf-8’)方法:
>>> b'\xe4\xb8\xad\xe6\x96\x87'.decode('utf-8')
'中文'
>>> print(b'\xe4\xb8\xad\xe6\x96\x87'.decode('utf-8'))
中文
还有其他的一些编码转换,但是这里不在讲解,不常用的编码转换需要的时候搜索引擎查一下就好了,方法都是类似
格式化
%运算符就是用来格式化字符串的。在字符串内部,%s表示用字符串替换,%d表示用整数替换,有几个%?占位符,后面就跟几个变量或者值,顺序要对应好。如果只有一个%?,括号可以省略。
常见的占位符有:
- %d 整数
- %f 浮点数
- %s 字符串
- %x 十六进制整数
- 其中,格式化整数和浮点数还可以指定是否补0和整数与小数的位数:
>>> 'Hello, %s' % 'world'
'Hello, world'
>>> 'Hi, %s, you have $%d.' % ('Michael', 1000000)
'Hi, Michael, you have $1000000.'
>>> '%2d-%02d' % (3, 1)
' 3-01'
>>> '%.2f' % 3.1415926
'3.14'
如果你不太确定应该用什么,%s永远起作用,它会把任何数据类型转换为字符串:
>>> 'Age: %s. Gender: %s' % (25, True)
'Age: 25. Gender: True'
对于Unicode字符串,用法完全一样,但最好确保替换的字符串也是Unicode字符串:
>>> u'Hi, %s' % u'Michael'
u'Hi, Michael'
转义字符
有些时候,字符串里面的%是一个普通字符怎么办?这个时候就需要转义,用%%来表示一个%:
>>> 'growth rate: %d %%' % 7
'growth rate: 7 %'
format字符串格式化函数
python有一个格式化字符串的函数format,可以替换%型格式化,其实大家可以按照自己的喜好来使用
>>> '{0},{1}'.format('timo',18)#可以使用数字排序
>>> '{},{}'.format('timo',18)
>>> '{1},{0},{1}'.format('timo',18)
>>>'{name},{age}'.format(age=18,name='timo')#可以使用关键字
填充与对其
^、<、>分别是居中、左对齐、右对齐,后面带宽度,:号后面带填充的字符,只能是一个字符,不指定的话默认是用空格填充
In [15]: '{:>8}'.format('189')
Out[15]: ' 189'
In [16]: '{:0>8}'.format('189')
Out[16]: '00000189'
In [17]: '{:a>8}'.format('189')
Out[17]: 'aaaaa189'
精度与类型
In [44]: '{:.2f}'.format(321.33345)
Out[44]: '321.33'
In [54]: '{:b}'.format(17)
Out[54]: '10001'
In [55]: '{:d}'.format(17)
Out[55]: '17'
In [56]: '{:o}'.format(17)
Out[56]: '21'
In [57]: '{:x}'.format(17)
Out[57]: '11'
还有其他用法, 自行琢磨
课后作业:
1.编写一个编码转换器,输入utf-8,可以自动转换成unicode编码;
2.依次输入学生的姓名,年龄,可以一行输出;