常用模块:
什么是模块:
常见的场景:一个模块就是一个包含了python定义和声明的文件,文件名就是模块名字加上.py的后缀。
但是其实import加载的模块分为四个通用类别:
1)使用python编写的代码(,py文件)
2)已被编译为共享库或者DLL的C或者C++扩展
3)包好一组模块的包
4)使用C编写并连接到python解释器的内置模块
为何要使用模块?
如果你退出python解释器然后重新进入,那么你之前定义的函数或者变量都将丢失,因为我们通常将程序写到文件中以便永久保存下来,需要时就通过python test.py方式去执行,此时test.py文件被称为简本script。
如果你退出python解释器然后重新进入,那么你之前定义的函数或者变量都将丢失,因为我们通常将程序写到文件中以便永久保存下来,需要时就通过python test.py方式去执行,此时test.py文件被称为简本script。
模块倒入和使用
模块的导入应用在程序开始的地方
更多相关内容:。。。。。。。
常用模块:
collections模块
在内置数据类型(dict、list、set、tuple)的基础上,collections模块还提供了几个额外的数据类型:Counter、deque、defaultdict、namedtuple和OrderedDict等。
1)namedtuple:生成可以使用名字来访问元素内容的tuple
2)deque:双端队列,可以快速的从另外一侧追加和推出对象。
3)Counter:计算器,只要用来计数:
4)OrderedDict:有序字典
5)defaultdict:带有默认值的字典
namedtuple
我们知道tuple可以便是不变集合,列如,一个点的二维坐标就可以表示成:
>>> p = (1, 2)
但是,看到(1,2),很难看出这个tuple是用来表示一个坐标的。
这时,namedtuple就派上用场了:
from collections import namedtuple
point = namedtuple('point',['x','y'])
p = point(1,2)
print(p.x)
print(p.y)
输出:
1
2
类似的,如果要用坐标和半径表示一个圆,也可以用namedtuple定义:
#namedtuple(’名称‘,[属性list]):
Circle = namedtuple('Circle',['x','y','r'])
deque
使用list存储数据时,安索引访问元素很快,但是插入和山吃元素就很慢了,因为list是线性存储,数据量大的时候,插入和删除效率很低。
deque是为了高效率实现插入和删除操作的双向列表,适合用于队列和栈:
from collections import deque
= deque(['a','b','c'])
q.append('x')
q.appendleft('y')
print(q)
deque
输出:
deque(['y', 'a', 'b', 'c', 'x'])
deque除了实现list的append()和pop()外,还支持appendleft()和popleft(),这样可以非常高效地往头部添加或删除元素。
OrderedDict:
使用dict时,key是无序的。在对dict做迭代时,我们无法确定key的顺序。
如果要保持key的顺序,可以用OrderedDict:
>>> from collections import OrderedDict
>>> d = dict([('a', 1), ('b', 2), ('c', 3)])
>>> d # dict的Key是无序的
{'a': 1, 'c': 3, 'b': 2}
>>> od = OrderedDict([('a', 1), ('b', 2), ('c', 3)])
>>> od # OrderedDict的Key是有序的
OrderedDict([('a', 1), ('b', 2), ('c', 3)])
注意,OrdereDict的key会按照插入的顺序排列,不是key本身排序:
od = OrderedDict()
od['z'] =1
od['y'] =2
od['x'] =3
print(od.keys())
输出:
odict_keys(['z', 'y', 'x'])
defaultdict
有如下值集合[11,22,33,44,55,66,77,88,99,90],将所有大于66的值保存至字典的第一个key中,将小于66的值保存至第二个key的值中。
原生字典解决方法:
即:{'k1':大于66,'k2':小于66}
values = [11, 22, 33,44,55,66,77,88,99,90]
my_dict = {}
for value in values:
if value>66:
if my_dict.has_key('k1'):
my_dict['k1'].append(value)
else:
my_dict['k1'] = [value]
else:
if my_dict.has_key('k2'):
my_dict['k2'].append(value)
else:
my_dict['k2'] = [value]
defaultdict字典解决的方法:
from collections import defaultdict
values = [11, 22, 33,44,55,66,77,88,99,90]
my_dict = defaultdict(list)
for value in values:
if value>66:
my_dict['k1'].append(value)
else:
my_dict['k2'].append(value)
print(my_dict)
输出:
defaultdict(<class 'list'>, {'k2': [11, 22, 33, 44, 55, 66], 'k1': [77, 88, 99, 90]})
使用dict时,如果引用的key不存在,就会抛出keyError。希望key不存在时,返回一个默认值,就可以用defaultdict:
values = [11, 22, 33,44,55,66,77,88,99,90]
from collections import defaultdict
dd = defaultdict(lambda: 'N/A')
dd['key1'] = 'abc'
print(dd['key1'])
输出:
abc
print(dd['key1'] )
输出:
N/A
Counter
Counter类的目的是用来跟踪值出现的次数。它是一个无序的容器类型。以字典的键值对形式存储,其中元素作为key,其计数作为value。计数的值可以任意的lnterger(包括0和负数)。Counter类和其他语言的bags或multisets很相似。
from collections import Counter
c = Counter('abcdeabcdabcaba')
print(c)
输出:
Counter({'a': 5, 'b': 4, 'c': 3, 'd': 2, 'e': 1})
时间模块:
和时间有关系的我们就要用到时间模块。在使用模块之前,应该首先倒入这个模块。
#常用的方法:
1.time.sleep(secs)
(线程)推迟指定的时间运行。单位为秒。
2.time.time()
获取当前时间戳
表示时间三种方式:
在python中,通常有三种方式来表示:时间戳、元组(struct_time)\格式化的时间串:
(1)时间戳(timestamp):通常来说,时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行type(time.time()),返回的是float类型。
(2)格式化的时间字符串(Format Sting):'1999-12-06'
python中时间日期格式化符号:
%y 两位数的年份表示(00-99)
%Y 四位数的年份表示(000-9999)
%m 月份(01-12)
%d 月内中的一天(0-31)
%H 24小时制小时数(0-23)
%I 12小时制小时数(01-12)
%M 分钟数(00=59)
%S 秒(00-59)
%a 本地简化星期名称
%A 本地完整星期名称
%b 本地简化的月份名称
%B 本地完整的月份名称
%c 本地相应的日期表示和时间表示
%j 年内的一天(001-366)
%p 本地A.M.或P.M.的等价符
%U 一年中的星期数(00-53)星期天为星期的开始
%w 星期(0-6),星期天为星期的开始
%W 一年中的星期数(00-53)星期一为星期的开始
%x 本地相应的日期表示
%X 本地相应的时间表示
%Z 当前时区的名称
%% %号本身
(3)元组(struct_time):struct_time元组共有9个元素共九个元素(年,月,日,时,分,秒,一年中第几周,一年中第几天等)
插入图片
首先,我们倒入time模块,来认识一下python中表示时间的几种格式:
#时间戳
>>>time.time()
1500875844.800804
#时间字符串:
print(time.strftime("%Y-%m-%d %X"))
输出:
2018-05-08 09:53:43
print(time.strftime("%Y-%m-%d %H-%M-%S"))
输出:
2018-05-08 09-54-35
#时间元组:localtime将一个时间戳转换为当前时区的struct_time
print(time.localtime())
输出:
time.struct_time(tm_year=2018, tm_mon=5, tm_mday=8, tm_hour=9, tm_min=55, tm_sec=51, tm_wday=1, tm_yday=128, tm_isdst=0)
小结:
时间戳是计算机能够识别的时间;时间字符串是人能看懂的时间;元组测试也拿过来操作时间的
图片插入
#时间戳--》结构化时间
#time,time(时间戳) #UTC时间,与英国伦敦当地时间一致。
#time.localtime(时间戳) #当地时间。例如我们现在在北京执行这个方法:与UTC时间相差8个小时,UTC时间+8小时 = 北京时间
print(time.gmtime(150000000))
输出:
time.struct_time(tm_year=1974, tm_mon=10, tm_mday=3, tm_hour=2, tm_min=40, tm_sec=0, tm_wday=3, tm_yday=276, tm_isdst=0)
#结构化时间 --》时间戳
#time.mktime(结构化时间)
time_tuple = time.localtime(1500000000)
print(time.mktime(time_tuple))
输出:
1500000000.0
#结构化时间 --》字符串时间
#time.strftime("格式定义",“结构化时间”) 结构化时间参数如不传,则显示当前时间
print(time.strftime("%Y-%m-%d %X"))
输出:
2018-05-08 10:08:22
print(time.strftime("%Y-%m-%d %X",time.localtime(1500000000))
输出:
2017-07-14 10:40:00
#字符串时间 --》结构化时间
#time.strptime(时间字符串,字符串对应格式)
import time
print(time.strptime("2017-03-16","%Y-%m-%d"))
输出:
time.struct_time(tm_year=2017, tm_mon=3, tm_mday=16, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=3, tm_yday=75, tm_isdst=-1)
import time
print(time.strptime("07/24/2017","%m/%d/%Y"))
输出:
time.struct_time(tm_year=2017, tm_mon=7, tm_mday=24, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=0, tm_yday=205, tm_isdst=-1)
图片
结构化时间--》 %a %b %d %H:%S: %Y串
#time.asctime(结构化时间) 如果不传参数,直接返回当前时间的格式化串
import time
print(time.asctime(time.localtime(1500000000)))
输出:
Fri Jul 14 10:40:00 2017
import time
print(time.asctime())
输出:
Tue May 8 10:21:39 2018
#时间戳 --> %a %d %d %H:%M:%S %Y串
#time.ctime(时间戳) 如果不传参数,直接返回当前时间的格式化串
import time
print(time.ctime())
输出:
Tue May 8 10:22:20 2018
import time
print(time.ctime(150000000))
输出:
Thu Oct 3 10:40:00 1974
import time
true_time=time.mktime(time.strptime('2018-05-08 08:30:00','%Y-%m-%d %H:%M:%S'))
time_now=time.mktime(time.strptime('2019-05-08 11:00:00','%Y-%m-%d %H:%M:%S'))
dif_time=time_now-true_time
struct_time=time.gmtime(dif_time)
print('过去了%d年%d月%d天%d小时%d分钟%d秒'%(struct_time.tm_year- 1970,struct_time.tm_mon-1,
struct_time.tm_mday-1,struct_time.tm_hour,
struct_time.tm_min,struct_time.tm_sec))
random模块
import random
#随机小数
print(random.random()) # 大于0且小于1之间的小数
输出:
0.9638758941892221
print(random.uniform(1,3))#大于1小于3的小数
输出:
2.9169565330447957
#随机整数
print(random.randint(1,5))# 大于等于1且小于等于5之间的整数
输出:
2
print(random.randrange(1,10,2)) # 大于等于1且小于10之间的奇数
输出:
3
#随机选择一个返回
print(random.choice([1,'23',[4,5]])) # #1或者23或者[4,5]
#随机选择多个返回,返回的个数为函数的第二个参数
print( random.sample([1,'23',[4,5]],2)) #列表元素任意2个组合
输出:
[1, '23']
#打乱列表顺序
item=[1,3,5,7,9]
random.shuffle(item)
print(item)
输出:
[5, 1, 7, 3, 9]
输出:
[3, 1, 5, 9, 7]
练习:生成随机验证码:
import random
def v_clde():
code =''
for i in range(5):
num=random.randint(0,9)
alf=chr(random.randint(65,90))
add=random.choice([num,alf])
code="".join([code,str(add)])
return code
print(v_clde())
os 模块
os模块是与操作系统交互的一个接口
'''
os.getcwd() 获取当前工作目录,即当前python脚本工作的目录路径
os.chdir("dirname") 改变当前脚本工作目录;相当于shell下cd
os.curdir 返回当前目录: ('.')
os.pardir 获取当前目录的父目录字符串名:('..')
os.makedirs('dirname1/dirname2') 可生成多层递归目录
os.removedirs('dirname1') 若目录为空,则删除,并递归到上一级目录,如若也为空,则删除,依此类推
os.mkdir('dirname') 生成单级目录;相当于shell中mkdir dirname
os.rmdir('dirname') 删除单级空目录,若目录不为空则无法删除,报错;相当于shell中rmdir dirname
os.listdir('dirname') 列出指定目录下的所有文件和子目录,包括隐藏文件,并以列表方式打印
os.remove() 删除一个文件
os.rename("oldname","newname") 重命名文件/目录
os.stat('path/filename') 获取文件/目录信息
os.sep 输出操作系统特定的路径分隔符,win下为"\\",Linux下为"/"
os.linesep 输出当前平台使用的行终止符,win下为"\t\n",Linux下为"\n"
os.pathsep 输出用于分割文件路径的字符串 win下为;,Linux下为:
os.name 输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
os.system("bash command") 运行shell命令,直接显示
os.popen("bash command).read() 运行shell命令,获取执行结果
os.environ 获取系统环境变量
os.path
os.path.abspath(path) 返回path规范化的绝对路径 os.path.split(path) 将path分割成目录和文件名二元组返回 os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素 os.path.basename(path) 返回path最后的文件名。如何path以/或\结尾,那么就会返回空值。
即os.path.split(path)的第二个元素
os.path.exists(path) 如果path存在,返回True;如果path不存在,返回False
os.path.isabs(path) 如果path是绝对路径,返回True
os.path.isfile(path) 如果path是一个存在的文件,返回True。否则返回False
os.path.isdir(path) 如果path是一个存在的目录,则返回True。否则返回False
os.path.join(path1[, path2[, ...]]) 将多个路径组合后返回,第一个绝对路径之前的参数将被忽略
os.path.getatime(path) 返回path所指向的文件或者目录的最后访问时间
os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间
os.path.getsize(path) 返回path的大小
'''
注意:os.stat('path/filename')获取文件/目录信息 的结构说明
stat 结构
st_mode: inode 保护模式
st_ino: inode 节点号。
st_dev: inode 驻留的设备。
st_nlink: inode 的链接数。
st_uid: 所有者的用户ID。
st_gid: 所有者的组ID。
st_size: 普通文件以字节为单位的大小;包含等待某些特殊文件的数据。
st_atime: 上次访问的时间。
st_mtime: 最后一次修改的时间。
st_ctime: 由操作系统报告的"ctime"。在某些系统上(如Unix)是最新的元数据更改的时间,在其它系统上(如Windows)是创建时间(详细信息参见平台的文档)。
sys模块
sys模块是与python解释器交互的一个接口
sys.argv 命令行参数List,第一个元素是程序本身路径
sys.exit(n) 退出程序,正常退出时exit(0),错误退出sys.exit(1)
sys.version 获取Python解释程序的版本信息
sys.path 返回模块的搜索路径,初始化时使用PYTHONPATH环境变量的值
sys.platform 返回操作系统平台名称
异常处理和status
import sys
try:
sys.exit(1)
except SystemExit as e:
print(e)
序列化模块
什么叫序列化--将原本的字典、列表等内容转换成一个字符串的过程就叫做序列
为什么有序列化模块
比如,我们在python代码中计算的一个数据需要给别一段程序使用,那我们怎么给?
现在我们能想到的方法就是存在文件里,然后别一个python程序再从文件里读出来。
但是我们都知道,对于文件来说是没有字典这个概念的吗所有我们只能将数据转换成字典放到文件中。
你一定会问,将字典转换成一个字符串很简单,就是str(dic)就可以办到了,为什么我们还要学习序列化模块呢?
没错序列化的过程就是从dic 变成str(dic)的过程。现在你可以通过str(dic),将一个名为dic的字典转换成一个字符串,但是你要怎么把一个字符串转换成字典呢?
聪明的你肯定想到了eval(),如果我们将一个字符串类型的字典str-dic传给eval,就会得到一个返回的字典类型了。
eval()函数十分强大,但是eval是做什么的?e官方demo解释器:将字符串str当成有效的表达式来求值并返回计算结果。
BUT!强大的函数有代价。安全性是其最大的缺点
想象一下,如果我们从文件中读出的不是一个数据结构,而是一句“删除文件” 类似的破坏性语句,那么后果实在不堪设想。
而是用eval就要但这个风险。
所以,我们并不推荐用eval方法来进行反序列化操作(将str转换成python中的数据结构)。
序列化的目的
1、以某种存储形式使自定义对象持久化
2、将对象从一个地方传递到另一个地方。
3、使用许更具维护性。
图片
json
json模块提供了四个功能:dumps、dump、loads、load
loads和dumps
import json
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = json.dumps(dic) #序列化:将一个字典转换成一个字符串
print(type(str_dic),str_dic)
输出:
<class 'str'> {"k1": "v1", "k2": "v2", "k3": "v3"}
#注意,json转换完的字符串类型的字典中的字符串是由“”表示的
import json
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = json.dumps(dic)
print(type(str_dic),str_dic)
dic2 = json.loads(str_dic)#反序列化:将一个字符串格式的字典转换成一个字典
#注意,要用json的loads功能处理的字符串类型的字典中的字符串必须由""表示
print(type(dic2),dic2)
输出:
<class 'str'> {"k1": "v1", "k2": "v2", "k3": "v3"}
<class 'dict'> {'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}
list_dic = [1,['a','b','c'],3,{'k1':'v1','k2':'v2'}]
str_dic = json.dumps(list_dic) #也可以处理嵌套的数据类型
print(type(str_dic),str_dic)
输出:
<class 'str'> [1, ["a", "b", "c"], 3, {"k1": "v1", "k2": "v2"}]
list_dic2 = json.loads(str_dic)
print(type(list_dic2),list_dic2)
输出:
<class 'list'> [1, ['a', 'b', 'c'], 3, {'k1': 'v1', 'k2': 'v2'}]
load和dump
import json
f = open('json_file','w')
dic = {'k1':'v1','k2':'v2','k3':'v3'}
json.dump(dic,f)#dump方法接收一个文件句柄,直接将字典转换成json字符串写入文件
f.close()
import json
f = open('json_file')
dic2 = json.load(f)#load方法接收一个文件句柄,直接将文件中的json字符串转换成数据结构返回
f.close()
print(type(dic2),dic2)
输出:
<class 'dict'> {'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}
ensure_ascii;关键字参数
import json
f = open('file',encoding='utf-8',mode='w')
json.dump({'国籍':'中国'},f)
ret = json.dumps({' 国籍':'中国'})
f.write(ret+'\n')
json.dump({'国籍':'美国 '},f,ensure_ascii=False)
ret = json.dumps({'美国':'美国'},ensure_ascii=False)
f.write(ret+'\n')
f.close()
其他参数说明:
Serialize obj to a JSON formatted str.(字符串表示的json对象)
Skipkeys:默认值是False,如果dict的keys内的数据不是python的基本类型(str,unicode,int,long,float,bool,None),设置为False时,就会报TypeError的错误。此时设置成True,则会跳过这类key
ensure_ascii:,当它为True的时候,所有非ASCII码字符显示为\uXXXX序列,只需在dump时将ensure_ascii设置为False即可,此时存入json的中文即可正常显示。)
If check_circular is false, then the circular reference check for container types will be skipped and a circular reference will result in an OverflowError (or worse).
If allow_nan is false, then it will be a ValueError to serialize out of range float values (nan, inf, -inf) in strict compliance of the JSON specification, instead of using the JavaScript equivalents (NaN, Infinity, -Infinity).
indent:应该是一个非负的整型,如果是0就是顶格分行显示,如果为空就是一行最紧凑显示,否则会换行且按照indent的数值显示前面的空白分行显示,这样打印出来的json数据也叫pretty-printed json
separators:分隔符,实际上是(item_separator, dict_separator)的一个元组,默认的就是(‘,’,’:’);这表示dictionary内keys之间用“,”隔开,而KEY和value之间用“:”隔开。
default(obj) is a function that should return a serializable version of obj or raise TypeError. The default simply raises TypeError.
sort_keys:将数据根据keys的值进行排序。
To use a custom JSONEncoder subclass (e.g. one that overrides the .default() method to serialize additional types), specify it with the cls kwarg; otherwise JSONEncoder is used.
json的格式化输出:
import json
data = {'username':['李华','二愣子'],'sex':'male','age':16}
json_dic2 = json.dumps(data,sort_keys=True,indent=2,separators=(',',':'),ensure_ascii=False)
print(json_dic2)
输出:
{
"age":16,
"sex":"male",
"username":[
"李华",
"二愣子"
]
}
pickle
json & pickle 模块
用于序列化的两个模块
1)json,用于字符串和Python数据类型之间进行转换
2)pickle,用于Python特有的类型和Python的数据类型之间进行转换
pickle模块提供了四个功能:dumps、dump(序列化,存)、loads(反序列化,读)load (不仅可以序列化字典,列表。。可以把Python中任意的数据类型序列化)
import pickle
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic =pickle.dumps(dic)
print(str_dic) #一串二进制内容
输出: b'\x80\x03}q\x00(X\x02\x00\x00\x00k1q\x01X\x02\x00\x00\x00v1q\x02X\x02\x00\x00\x00k2q\x03X\x02\x00\x00\x00v2q\x04X\x02\x00\x00\x00k3q\x05X\x02\x00\x00\x00v3q\x06u.'
dic2 =pickle.loads(str_dic)
print(dic2)#字典
输出:{'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}
import time
struct_time = time.localtime(10000000)
print(struct_time)
f=open('pickle_file','wb')
pickle.dump(struct_time,f)
f.close()
输出:
time.struct_time(tm_year=1970, tm_mon=4, tm_mday=27, tm_hour=1, tm_min=46, tm_sec=40, tm_wday=0, tm_yday=117, tm_isdst=0)
f = open('pickle_file','rb')
struct_time2 = pickle.load(f)
print(struct_time2.tm_year)
输出:
1970
这时候机智的你又要说,既然pickle如此强大,为什么还要学json呢?
这里我们要说明一下,json是一种所有的语言都可以识别的数据类型结构。
如果我们将一个字典或者序列化程了一个json存在的文件里,那么java代码或者js代码也可以拿来用。
但是如果我们用pickle进行序列化,其他语言就不能读懂这是什么了。
所以,如果你序列化的内容是列表或者字典,我们非常推荐你使用json模块。
但如果处于某种原因不得不序列化其他的数据类型,而未来你还会用Python对这个数据进行反序列化的话,那么就可以使用pickle。
shelve
shelve也是Python提供给我们的序列化工具,比pickle用起来更简单一些。
shelve只提供给我们一个open方法,是用key来访问的,使用起来和字典类似。
import shelve
f = shelve.open('shelve_file')
f['key'] = {'int':10, 'float':9.5, 'string':'Sample data'} #直接对文件句柄操作,就可以存入数据
f.close()
import shelve
f1 = shelve.open('shelve_file')
existing = f1['key'] #取出数据的时候也只需要直接用 key获取即可,但是如果key不存在会报错
f1.close()
print(existing)
输出:
{'int': 10, 'float': 9.5, 'string': 'Sample data'}
这个模块有个限制,它不支持多个应用同时往同一个DB进行操作。所以当我们知道我们的应用如果只进行读操作,我们可以让shelve通过只读方式打开DB
shelve只读
import shelve
f = shelve.open('shelve_file',flag='r')
existing = f['key']
f.close()
print(existing)
输出:
{'int': 10, 'float': 9.5, 'string': 'Sample data'}
由于shelve在默认情况下是不会记录待持久化对象的任何修改的,所以我们在shelve. open()时候需要修改默认参数,否则对象的修改不会保存。
设置writeback
import shelve
f1 = shelve.open('shelve_file')
print(f1['key'])
f1['key']['new_value'] = 'this was not here before'
f1.close()
f2 = shelve.open('shelve_file',writeback=True)
print(f2['key'])
f2['key']['new_value'] = 'this was not here before'
f2.close()
writeback方式有优点也有缺点。优点就是减少了我们出错的概率,并且让对象的持久化对用户更加的透明了;但这种方式并不是所有的情况下都需要,首先,使用writeback以后,shelf在open()的时候会增加额外的内存消耗并且当DB在close()的时候会将缓存中的对象都写入到DB,这也会带来额外的等待时间,因为shelve没有办法知道缓存中那些对象修改了,那些对象没有修改,因为所有的对象都会被写入。
re模块
讲正题之前我们先来看一个列子
这是京东的注册页面,打开页面我们就看到这些要求输入个人信息的提示。
假如我们随意的在手机号码这个栏输入一个11111111,它会提示我们格式有误。
这个功能是怎么实现的呢?
假如现在你用Python写一段代码,类似:
phone_unmber = input("please input your phone number:")
你怎么判断这个phone_number是合法的呢?
根据手机号码一共11位并且是只以13、14、15、18开头的数字这些特点,我们用Python写了如下代码:
判断手机号码是否合法1:
while True:
phone_unmber = input("please input your phone number:")
if len(phone_unmber) == 11\
and phone_unmber.isdigit()\
and (phone_unmber.startswith('13')\
or phone_unmber.startswith('14')\
or phone_unmber.startswith('15')\
or phone_unmber.startswith('18')):
print('是合法的手机号码')
else:
print("不是合法的手机号码")
这是你的写法,现在我要展示一下我的写法:
判断手机号码是否合法2:
import re
phone_unmber = input("please input your phone number:")
if re.match('^(13|14|15|18)[0-9]{9}$',phone_unmber):
print("是合法的手机号码")
else:
print("不是合法的手机号码")
对比上面的两种写法,此时此刻,我要问你你喜欢那种方法?你肯定还是会说第一种,为什么?因为第一种不用学呀。
但是如果现在有一个文件,我让你从整个文件里匹配出所有的手机号码,你用Python给我写个试试?
但是学了今天的技能之后,分分钟帮你搞定!!!
今天我们要学习Python里的re模块和正则表达式,学会了这个就可以帮我们解决刚刚的疑问。正则表达式不仅存在Python领域,在整个变成届都占有举足轻重的地位
正则表达式和re模块:
不管一个你是不是去做Python开发,只要你是一个程序员就应该了解正则表达式的基本使用。如果未来你要在爬虫领域发展,你就更应该好好学习这方面的知识。
但是你要知道,re模块本质上和正则表达式没有一毛钱关系。re模块和正则表达式的关系,类似于time模块和时间的关系你没有学习Python之前,也不知道有一个time模块但是你已经认识时间了,12:30就代表中午十二点半(这个时间可好,一般这会儿就该下课了)。
时间有自己的格式,年月日时分秒,12个月,365天。。。。已经成为了一种规则。你也牢记于心了。time模块只不过是Python提供给我们的可以方便我们操作时间的一个工具而已
正则表达式本身也是和Python没有 什么关系,就是匹配字符串内容的一种规则。
官方定义:正则表达式是对字符串操作的一种逻辑公式,就是用事先定义好的一些特定字符、及这些特定的组合,组成一个“规则字符串”,这个“规则字符串”用来表示对字符串的一种过滤逻辑。
正则表达式
一说规则我已经知道你很晕了。现在就让我们先来看一些实际的应用。在线测试工具 http://tool.chinaz.com/regex/
首先你要知道的是,谈到正则,就只和字符串相关了。在我给你提供的工具中,你输入的每一个字都是一个字符串。
其次,如果在一个位置的一个值,不会出现什么变化,那么是不需要规则的。
比如你要用“1”去匹配“1”,或者“2”去匹配“2”,直接就可以匹配上,这连Python的字符串操作都可以轻松做到。
那么在之后我们更多要考虑的是在同一个位置上可以出现的字符的范围。
字符组:
字符组:[字符组]
在同一个位置可能出现的各种字符组成了一个字符组,在正则表达式中用[]表示时间三种方式
字符分为很多类,比如数组,字母,标点等等。
假如你现在要求一个位置“只能出现一个数字”那么这个位置上的字符只能是1、2、...9这10个数字之一。
图片
字符:
图片
量词
图片
.^$
图片
*+?{}
图片
注意:前面的*,+,?等都是贪婪匹配,也就是尽可能匹配,后面加?号使其变成惰性匹配
图片
字符集[][^]
图片
分组()与或|[^]
身份证号码是一个长度为15或18个字符的字符串,如果是15位则全部为数字组成,首位不能为0;如果是18位,则前面17位全部是数字,末位可能是数字或者x,下面我们用正则来表示:
图片
转义符:\
在正则表达式中,有很多有特殊意义的元字符,比如\d和\s等,如果要在正则匹配正常的“\d”而不是“数字”就需要对“\“进行转义,变成”\\“
在Python中,无论 是正则表达式,还是待匹配的内容,都是以字符串的形式出现的,在字符串中\也有特殊的含义,本身还需要转义。所以如果匹配一次“\d”,字符串中药写成“\\d”,那么正则里就要写成“\\\\d”,这样太麻烦了。这个时候我们就用到了r“\d”这个概念,此时的正则是r“\d”就可以了。
图片
贪婪匹配
贪婪匹配:在满足匹配时,匹配尽可能长的字符串,默认情况下,采用贪婪匹配。
图片
几个常用的费贪婪匹配Pattern
*? 重复任意次,但尽可能少重复
+? 重复1次或者更多次,但尽可能少重复
?? 重复0次或1次,但尽可能少重复
{n,m}? 重复n次到m次,但尽可能少重复
{n,} 重复n次以上,但尽可能少重复
.*?的用法:
.是任意字符串
*是取0至无限长度
?是非贪婪匹配模式
何在一起就是 取尽量少的任意字符,一般不会这么单独写,他大多用在:
.*?x
就是取前面任意长度的字符,知道一个x出现。
re模块下的常用方法
import re
ret = re.findall('a','eva egon yuan')#返回所有满足匹配条件的结果,放在列表里
print(ret)
输出:
['a', 'a']
import re
ret = re.search('a','eva egon yuan').group()
print(ret)
输出:
a
#函数会在字符串内查找模式匹配,只到找到第一个匹配然后返回一个包含匹配信息的对象,该对象可以通过调用group()方法得到匹配的字符串,如果字符串没有匹配,则返回None
import re
ret = re.match('a','abc').group() #同search,不过尽在字符串开始处进行匹配
print(ret)
输出:
a
import re
ret = re.split('[ab]','abcd')#先按“a”分割得到‘’和‘bcd’,在对‘’和‘bcd’分别按‘b’分割
print(ret)
输出:
['', '', 'cd']
import re
ret = re.sub('\d','H','eva3egon4yuan5',1)#将数字替换成"H",参数1表示只替换1个
print(ret)
输出:
evaHegon4yuan5
import re
ret = re.subn('\d','H','eva3egon4yuan4')#将数字替换成“H”,返回的元祖(替换的结果,替换了多少次)
print(ret)
输出:
('evaHegonHyuanH', 3)
obj = re.compile('\d{3}')#将正则表达式编译成为一个 正则表达式对象,规则要匹配的是3个数字
ret = obj.search('abc123eeee')#正则表达式对象调用search,参数为待匹配的字符串
print(ret.group())
输出:
123
import re
ret = re.finditer('\d','as3st4324a')#finditer返回一个存放匹配结果的迭代器
print(ret)#<callable_iterator object at 0x00000000025F8198>
print(next(ret).group)#查看第一个结果
print(next(ret).group)#查看第二个结果
print([i.group() for i in ret])#查看剩余的左右结果
输出:
<callable_iterator object at 0x00000000025F8198>
<built-in method group of _sre.SRE_Match object at 0x00000000024F59F0>
<built-in method group of _sre.SRE_Match object at 0x00000000024F59F0>
['3', '2', '4']
注意:
findall的优先级查询
import re
ret = re.findall('www.(baidu|oldboy).com','www.oldboy.com')#这是因为findall会优先把匹配结果里的内容返回,如果想要匹配结果,取消权限即可
print(ret)
输出:
['oldboy']
ret = re.findall('www.(?:baidu|oldboy).com','www.oldboy.com')
print(ret)
输出:
['www.oldboy.com']
split的优先级查询
ret = re.split("\d+","eva3egon4yuan")
print(ret)
输出:
['eva', 'egon', 'yuan']
ret = re.split("(\d+)","eva3egon4yuan")
rint(ret)
输出:
['eva', '3', 'egon', '4', 'yuan']
#在匹配部分加上()之后所切出的结果是不同的,
#没有()的没有保留所匹配的项,但是有()的却能保留了匹配的项
#这个在某些需要保留匹配部分的使用过程是风场重要的。
综合练习扩展
1匹配标签
import re
ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>")
#还可以在分组中利用?<naem>的形式给分组起名字
print(ret.group('tag_name'))
输出:h1
print(ret.group())#
输出:<h1>hello</h1>
ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>")
#如果不给组起名字,也可以用\序列号来找到对应的组,表示要找的内容和前面的组内容一致
#获取的匹配结果可以直接用group(序列)拿到对应的值
print(ret.group(1))
输出:
h1
print(ret.group())
输出:
<h1>hello</h1>
2匹配整数:
import re
ret =re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))")
print(ret)
输出:
['1', '2', '60', '40', '35', '5', '4', '3']
ret = re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))")
print(ret)
输出:
['1', '-2', '60', '', '5', '-4', '3']
ret.remove("")
print(ret)
输出:
['1', '-2', '60', '5', '-4', '3']
flags有很多可选值:
re.I(IGNORECASE)忽略大小写,括号内是完整的写法
re.M(MULTILINE)多行模式,改变^和$的行为
re.S(DOTALL)点可以匹配任意字符,包括换行符
re.L(LOCALE)做本地化识别的匹配,表示特殊字符集 \w, \W, \b, \B, \s, \S 依赖于当前环境,不推荐使用
re.U(UNICODE) 使用\w \W \s \S \d \D使用取决于unicode定义的字符属性。在python3中默认使用该flag
re.X(VERBOSE)冗长模式,该模式下pattern字符串可以是多行的,忽略空白字符,并可以添加注释