正则表达式是对字符串操作的一种逻辑公式,就是用事先定义好的一些特定字符、及这些特定字符的组合,组成一个“规则字符串”,这个“规则字符串”用来表达对字符串的一种过滤逻辑。
re模块
- re模块是python独有的匹配字符串的模块,该模块中提供的很多功能是基于正则表达式实现的,而正则表达式是对字符串进行模糊匹配,提取自己需要的字符串部分,他对所有的语言都通用。注意:
- re模块是python独有的
- 正则表达式所有编程语言都可以使用
- re模块、正则表达式是对字符串进行操作
- 因为,re模块中的方法大都借助于正则表达式,故先学习正则表达式。
实例代码:
- 基础
import re
str1 = "S12345s6372S43"
str2 = "fangweijie is a good man!GoOd"
print(re.match('s',str1,flags=re.I))
print(re.search('3',str1))
print(re.findall('2',str1))
print(re.findall('[246]',str1))
print(re.findall('(637),(897)',str1))
print(re.findall('good',str2,flags=re.I))
- 深入
import re
str1 = "fang wei_jie"
d = re.split('[ _]',str1)
print(d)
D = re.finditer('[n]',str1)
print(type(D))
print(D)
print(re.sub('[fwj]','C',str1))
print(str1)
print(re.subn('[fwj]','Z',str1))
str2 = "fangweijie fangting "
str3 = "010-12345"
m1 = re.match('\d{3}-\d{5}',str3)
m = re.match('(?P<frist>fa(?P<last>ng))',str2)
print('-----------------')
print(m1.group(0))
print(m.groups())
print(m.group(1))
print(m.group(2))
print('-----------------')
print(m.group('frist'))
print(m.group('last'))
re_name = re.compile('(fa(ng))')
print(re_name.search(str2))
print(re_name.match(str2))
print(re_name.findall(str2))
元字符
字符 | 描述 |
---|---|
\ | 将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,‘n’ 匹配字符 “n”。’\n’ 匹配一个换行符。序列 ‘\’ 匹配 “” 而 “(” 则匹配 “(”。 |
^ | 匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 ‘\n’ 或 ‘\r’ 之后的位置。 |
$ | 匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 ‘\n’ 或 ‘\r’ 之前的位置。 |
* | 匹配前面的子表达式零次或多次。例如,zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。 |
+ | 匹配前面的子表达式一次或多次。例如,‘zo+’ 能匹配 “zo” 以及 “zoo”,但不能匹配 “z”。+ 等价于 {1,}。 |
? | 匹配前面的子表达式零次或一次。例如,“do(es)?” 可以匹配 “do” 或 “does” 。? 等价于 {0,1}。 |
{n} | n 是一个非负整数。匹配确定的 n 次。例如,‘o{2}’ 不能匹配 “Bob” 中的 ‘o’,但是能匹配 “food” 中的两个 o。 |
{n,} | n 是一个非负整数。至少匹配n 次。例如,‘o{2,}’ 不能匹配 “Bob” 中的 ‘o’,但能匹配 “foooood” 中的所有 o。‘o{1,}’ 等价于 ‘o+’。‘o{0,}’ 则等价于 ‘o*’。 |
{n,m} | m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,“o{1,3}” 将匹配 “fooooood” 中的前三个 o。‘o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。 |
? | 当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 “oooo”,‘o+?’ 将匹配单个 “o”,而 ‘o+’ 将匹配所有 ‘o’。 |
. | 匹配除换行符(\n、\r)之外的任何单个字符。要匹配包括 ‘\n’ 在内的任何字符,请使用像"(. |
(pattern) | 匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在JScript 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 ‘(’ 或 ‘)’。 |
(?:pattern) | 匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 “或” 字符 ( |
(?=pattern) | 正向肯定预查(look ahead positive assert),在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,"Windows(?=95 |
(?!pattern) | 正向否定预查(negative assert),在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如"Windows(?!95 |
(?<=pattern) | 反向(look behind)肯定预查,与正向肯定预查类似,只是方向相反。例如,"(?<=95 |
(?<!pattern) | 反向否定预查,与正向否定预查类似,只是方向相反。例如"(<!95/98/NT/2000)Windows"能匹配"3.1Windows"中的"Windows",但不能匹配"2000Windows"中的"Windows"。 |
x/y | 匹配 x 或 y。例如,‘z/food’ 能匹配 “z” 或 “food”。’(z/f)ood’ 则匹配 “zood” 或 “food”。 |
[xyz] | 字符集合。匹配所包含的任意一个字符。例如, ‘[abc]’ 可以匹配 “plain” 中的 ‘a’。 |
[^xyz] | 负值字符集合。匹配未包含的任意字符。例如, ‘[^abc]’ 可以匹配 “plain” 中的’p’、‘l’、‘i’、‘n’。 |
[a-z] | 字符范围。匹配指定范围内的任意字符。例如,’[a-z]’ 可以匹配 ‘a’ 到 ‘z’ 范围内的任意小写字母字符。 |
[^a-z] | 负值字符范围。匹配任何不在指定范围内的任意字符。例如,’[^a-z]’ 可以匹配任何不在 ‘a’ 到 ‘z’ 范围内的任意字符。 |
\b | 匹配一个单词边界,也就是指单词和空格间的位置。例如, ‘er\b’ 可以匹配"never" 中的 ‘er’,但不能匹配 “verb” 中的 ‘er’。 |
\B | 匹配非单词边界。‘er\B’ 能匹配 “verb” 中的 ‘er’,但不能匹配 “never” 中的 ‘er’。 |
\cx | 匹配由 x 指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 ‘c’ 字符。 |
\d | 匹配一个数字字符。等价于 [0-9]。 |
\D | 匹配一个非数字字符。等价于 [^0-9]。 |
\f | 匹配一个换页符。等价于 \x0c 和 \cL。 |
\n | 匹配一个换行符。等价于 \x0a 和 \cJ。 |
\r | 匹配一个回车符。等价于 \x0d 和 \cM。 |
\s | 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。 |
\S | 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。 |
\t | 匹配一个制表符。等价于 \x09 和 \cI。 |
\v | 匹配一个垂直制表符。等价于 \x0b 和 \cK。 |
\w | 匹配字母、数字、下划线。等价于’[A-Za-z0-9_]’。 |
\W | 匹配非字母、数字、下划线。等价于 ‘[^A-Za-z0-9_]’。 |
\xn | 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如,’\x41’ 匹配 “A”。’\x041’ 则等价于 ‘\x04’ & “1”。正则表达式中可以使用 ASCII 编码。 |
\num | 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,’(.)\1’ 匹配两个连续的相同字符。 |
\n | 标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式,则 n 为向后引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。 |
\nm | 标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式,则 nm 为向后引用。如果 \nm 之前至少有 n 个获取,则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 \nm 将匹配八进制转义值 nm。 |
\nml | 如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。 |
\un | 匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, \u00A9 匹配版权符号 (?)。 |
实例代码:
- 这里只有一部分,其他的与下面代码的格式类似,照葫芦画瓢即可。
import re
print("-----------------\n")
str1 = "famgweijie_19990126!"
str2 = "FangWeiJie_17320015926\n! ?\ffang\rting\t"
print(re.findall('.',str1))
print(re.findall('[0123456789]',str1))
print(re.findall('[0-9a-zA-Z]',str1))
print(re.findall('[\d]',str1))
print(re.findall('[\D]',str1))
print(re.findall('[\w]',str2))
print(re.findall('[\W]',str2))
print(re.findall('[\s]',str2))
print(re.findall('[\S]',str2))
print(re.findall('[^0-9]',str2))
锚字符
import re
str1 = "fang san jin_19671015"
str2 = "zhou hong ying_19671115 fang ting19920126cool fangweijie1990126 cool"
str3 = "fang"
print(re.findall("^fang",str1))
print(re.findall("fang$",str1))
print(re.findall("15$",str1))
print(re.findall("^fang",str2))
print(re.findall("\Afang",str1))
print(re.findall("cool\Z",str2))
print(re.findall("cool\Z",str2))
print(re.findall("ang\b",str2))
print(re.findall("fang\B",str2))
多字符匹配
import re
str1 = "Fang Weijie is a nice man!fang ting is a good woman"
print(re.findall('(fang)',str1,flags=re.I))
print(re.findall('is?',str1))
print(re.findall('a*',"aaaaaaaa"))
print(re.findall('aa+',"aaaaabaaaaaaa"))
print(re.findall('o{2}',str1))
print(re.findall('a{3}',"aaabaabazaaaaaa"))
print(re.findall('a{3,}',"aabaaacaaaaaada"))
print(re.findall('a{3,5}',"aaxczaaanbaaaakjaaaaaa"))
print(re.findall('a|s',str1))
print(re.findall('n|z',str1))
print(re.findall('(F|f)ang',str1))
print(re.findall('aa+?',"aaaaabaaaaaaa"))
print(re.findall('a*?',"aaaaaaaa"))
#print(re.findall(?:a,str1)) error
设置超时
import urllib.request
for i in range(1,100):
try:
response = urllib.request.urlopen("http://www.baidu,com",timeout=4)
print(len(response.read().decode("utf-8")))
except:
print("请求超时!")
正则表达式在爬虫中的应用
- urllib爬取网页
import urllib.request
url1 = "https://pixabay.com/"
url2 = "https://movie.douban.com/chart"
header = {
"User_Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:34.0) "
"Gecko/20100101 Firefox/34.0Mozilla/5.0 (X11; U;"
" Linux x86_64; zh-CN; rv:1.9.2.10) Gecko/20100922"
" Ubuntu/10.10 (maverick) Firefox/3.6.10"
}
req = urllib.request.Request(url2,headers=header)
response = urllib.request.urlopen(req)
dataStr = response.read().decode("utf-8")
print(dataStr)
print(type(dataStr))
data = response.readline()
print(data)
print(type(data))
dataList = response.readlines()
print(dataList)
print(type(dataList))
'''
path = r"E:\pycharm project\正则表达式\f1.html"
with open(path,"wb") as f:
f.write(dataStr)
'''
print(response.info())
print(response.geturl())
print(response.getcode())
- 将爬取到的网页直接写入文件
import urllib.request
path = r"E:\pycharm project\正则表达式\f2.html"
url = "http://www.baidu.com"
urllib.request.urlretrieve(url,path)
#清空缓存
urllib.request.urlcleanup()
运算符优先级
- 正则表达式从左到右进行计算,并遵循优先级顺序,这与算术表达式非常类似。
- 相同优先级的从左到右进行运算,不同优先级的运算先高后低。下表从最高到最低说明了各种正则表达式运算符的优先级顺序:
运算符 | 描述 |
---|---|
\ | 转义符 |
(), (?😃, (?=), [] | 圆括号和方括号 |
*, +, ?, {n}, {n,}, {n,m} | 限定符 |
^, $, \任何元字符、任何字符 | 定位点和序列(即:位置和顺序) |
| | 替换,"或"操作字符具有高于替换运算符的优先级,使得"m |