1.正则表达式基础
1.1正则表达式概念
正则表达式并不是Python的一部分。正则表达式是用于处理字符串的强大工具,拥有自己独特的语法以及一个独立的处理引擎,效率上可能不如str自带的方法,但功能十分强大。得益于这一点,在提供了正则表达式的语言里,正则表达式的语法都是一样的,区别只在于不同的编程语言实现支持的语法数量不同。
下图为使用正则表达式进行匹配的流程图:
1.2正则表达式
1:使用单个字符串来描述匹配一系列符合某个句法规则的字符串
2:是对字符串操作的一种逻辑公式
3:应用场景:处理文本和数据
4:正则表达式过程:依次拿出表达式和文本中的字符比较,如果每一个字符串都能匹配,则匹配成功;否则匹配失败。
2.python支持的正则表达式元字符和语法
2.1 数量词的贪婪模式与非贪婪模式
正则表达式通常用于在文本中查找匹配的字符串。Python里数量词默认是贪婪的(在少数语言里也可能是默认非贪婪)总是尝试匹配尽可能多的字符;非贪婪的则相反,总是尝试匹配尽可能少的字符。例如:正则表达式"ab*"如果用于查找"abbbc",将找到"abbb"。而如果使用非贪婪的数量词"ab*?",将找到"a"。
2.2 反斜杠的困扰
多数编程语言相同,正则表达式里使用"\"作为转义字符,这就可能造成反斜杠困扰。假如你需要匹配文本中的字符"\",那么使用编程语言表示的正则表达式里将需要4个反斜杠"\\\\":前两个和后两个分别用于在编程语言里转义成反斜杠,转换成两个反斜杠后再在正则表达式里转义成一个反斜杠。Python里的原生字符串很好地解决了这个问题,这个例子中的正则表达式可以使用r"\\"表示。同样,匹配一个数字的"\\d"可以写成r"\d"。有了原生字符串,你再也不用担心是不是漏写了反斜杠,写出来的表达式也更直观。
2.3 匹配模式
表达式提供了一些可用的匹配模式,比如忽略大小写、多行匹配等,这部分内容将在Pattern类的工厂方法re.compile(pattern[, flags])中一起介绍。
3. re模块
3.1 python第一个正则表达式
Python通过re模块提供对正则表达式的支持。使用re的一般步骤是先将正则表达式的字符串形式编译为Pattern实例,然后使用Pattern实例处理文本并获得匹配结果(一个Match实例),最后使用Match实例获得信息,进行其他的操作。
re.compile(strPattern[, flag]):
这个方法是Pattern类的工厂方法,用于将字符串形式的正则表达式编译为Pattern对象。 第二个参数flag是匹配模式,取值可以使用按位或运算符'|'表示同时生效,比如re.I | re.M。另外,你也可以在regex字符串中指定模式,比如re.compile('pattern', re.I | re.M)与re.compile('(?im)pattern')是等价的。
可选值有:re.I(re.IGNORECASE): 忽略大小写(括号内是完整写法,下同)
M(MULTILINE): 多行模式,改变'^'和'$'的行为(参见上图)
S(DOTALL): 点任意匹配模式,改变'.'的行为
L(LOCALE): 使预定字符类 \w \W \b \B \s \S 取决于当前区域设定
U(UNICODE): 使预定字符类 \w \W \b \B \s \S \d \D 取决于unicode定义的字符属性
X(VERBOSE): 详细模式。这个模式下正则表达式可以是多行,忽略空白字符,并可以加入注释。以下两个正则表达式是等价的:
re提供了众多模块方法用于完成正则表达式的功能。这些方法可以使用Pattern实例的相应方法替代,唯一的好处是少写一行re.compile()代码,但同时也无法复用编译后的Pattern对象。这些方法将在Pattern类的实例方法部分一起介绍。如上面这个例子可以简写为:
3.2 match
match对象是一次匹配的结果,包含了很多关于此次匹配的信息,可以使用Match提供的可读属性或方法来获取这些信息。
Match对象是一次匹配的结果,包含了很多关于此次匹配的信息,可以使用Match提供的可读属性或方法来获取这些信息。
属性:string: 匹配时使用的文本。
re: 匹配时使用的Pattern对象。
pos: 文本中正则表达式开始搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。
endpos: 文本中正则表达式结束搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。
lastindex: 最后一个被捕获的分组在文本中的索引。如果没有被捕获的分组,将为None。
lastgroup: 最后一个被捕获的分组的别名。如果这个分组没有别名或者没有被捕获的分组,将为None。
方法:group([group1, …]):
获得一个或多个分组截获的字符串;指定多个参数时将以元组形式返回。group1可以使用编号也可以使用别名;编号0代表整个匹配的子串;不填写参数时,返回group(0);没有截获字符串的组返回None;截获了多次的组返回最后一次截获的子串。
groups([default]):
以元组形式返回全部分组截获的字符串。相当于调用group(1,2,…last)。default表示没有截获字符串的组以这个值替代,默认为None。
groupdict([default]):返回以有别名的组的别名为键、以该组截获的子串为值的字典,没有别名的组不包含在内。default含义同上。
start([group]):
返回指定的组截获的子串在string中的起始索引(子串第一个字符的索引)。group默认值为0。
end([group]):返回指定的组截获的子串在string中的结束索引(子串最后一个字符的索引+1)。group默认值为0。
span([group]):返回(start(group), end(group))。
expand(template):
将匹配到的分组代入template中然后返回。template中可以使用\id或\g、\g引用分组,但不能使用编号0。\id与\g是等价的;但\10将被认为是第10个分组,如果你想表达\1之后是字符'0',只能使用\g<1>0。
代码:
****output****
3.3匹配python
note:re的match方法从字符串的起始位置开始匹配
4. python正则表达式——re模块实例方法
1:search(pattern,string,flags=0)
个字符串中查找匹配(任何位置匹配)
>>>str1='imoocvideonum = 1000'
>>>info=re.search(r'\d+',str1)
2:findall(pattern,string,flags=0)
找到匹配,返回所有匹配部分的列表
>>>str2='c++=100,java=90,python=80'
>>> info=re.findall(r'\d+',str2)
>>> info
['100', '90', '80']
>>> sum([int(x)for x in info]) #列表解析将三个数值相加
270
3:sub(pattern,repl,string,count=0,flags=0)
将字符串中匹配正则表达式的部分替换为其他值
参数:repl :如果是字符串那么就是个字符串,如果是一个函数就是替换的值就是这个函数返回的字符串。
String:被替换的字符串。
Count=0:对替换的一个限制
如果repl为一个字符串
>>>str3='imooc videonum = 1000'
>>> info=re.sub(r'\d+','1002',str3) #省略conut默认全部替换
>>> info
'imooc videonum = 1002'
如果repl为一个函数
>>> str3='imooc videonum = 1000'
>>>def add1(match): #repl函数是pattern匹配string时返回的一个mach对象,用函数改变其值。
val= match.group()
num=int(val)+1
returnstr(num)
>>> info=re.sub(r'\d+',add1,str3)
>>> info
'imooc videonum = 1001'
4:split(pattern,string,maxsplit=0,flags=0):
根据匹配分割字符串,返回分割字符串组成的列表
参数:maxsplit=0字符串分割的次数
>>>str4='imooc:c c++ Java Python'
>>> import re
>>> re.split(r':| ',str4)
['imooc', 'c', 'c++', 'Java', 'Python']
Python正则表达式——练习
1:抓取网页
2:获取图片地址
3:抓取图片内容保存到本地
import re
import urllib
import time
import os
def schedule(a,b,c):
'''''
a:已经下载的数据块
b:数据块的大小
c:远程文件的大小
'''
per= 100.0 * a * b / c
ifper > 100 :
per = 100
print '%.2f%%' % per
req=urllib.urlopen('http://www.imooc.com/course/list')
buf=req.read()
listurl=re.findall(r'http:.+\.jpg',buf)
print listurl
t = time.localtime(time.time())
foldername =str(t.__getattribute__("tm_year"))+"-"+str(t.__getattribute__("tm_mon"))+"-"+str(t.__getattribute__("tm_mday"))
picpath='D:\\toupianDownload\\%s'%(foldername)
if not os.path.exists(picpath):
os.makedirs(picpath)
x=0
for imgurl in listurl:
target=picpath+'\\%s.jpg'%x
print 'Downloading p_w_picpath to location: ' + target + '\nurl=' + imgurl
p_w_picpath = urllib.urlretrieve(imgurl, target, schedule)
x+=1