正则表达式简介
前言
简而言之，爬虫分为四步：
- 明确目标(爬取网站)
- 爬取页面
- 按照规则提取有用数据
- 存储和使用数据
在前面的示例中，我们仅仅做了第一 二步，并且对所爬取的页面内容完整保存，没有对数据进行提取和处理，这样容易造成数据混乱且庞大，因此，我们需要按照规则对内容进行匹配和过滤，得到有效数据。
对文本进行过滤和匹配，最强大的就是正则，是爬虫(不限python)世界里不可缺少的神兵利器。
概念
- 又称规则表达式，通常被用来检索、替换那些符合某个模式(规则)的文本
- 是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。
给定一个正则表达式和另一个字符串，我们可以达到如下目的：
给定的字符串是否符合正则表达式的过滤逻辑（“匹配”）；
通过正则表达式，从文本字符串中获取我们想要的特定部分（“过滤”）
匹配规则
Python中re模块使用
在python中，使用内置的re模块来使用正则表达式。
需要注意一下，正则使用对特殊字符进行转椅，需要在加前缀r，以便保证完整性，如下：
content = r'hell\t\n123'使用步骤
- 使用compile方法将正则表达式的字符串形式编译成pattern对象
- 通过pattern对象提供的方法对目标字符串进行匹配查找，返回match对象
- 利用match对象提供的属性和方法，获取数据信息
compile
compile函数用于编译正则表达式，生成Pattern对象
使用如下：
import re
p1 = re.compile(r'^\d+')parttern
通过compile函数将正则表达式编译成Parttern对象后，就可以使用其提供的方法对指定字符串匹配查找了，主要方法如下：
- match()：从起始位置开始查找，一次匹配
- search()：从任何位置开始查找，一次匹配
- findall()：全部匹配，返回列表
- finditer()：全部匹配，返回迭代器
- split()：对字符串分割，返回列表
- sub()：替换
match
用于查找字符串的头部(也可以指定位置)，一次匹配，只要找到一个匹配结果即返回，而不是返回所有的匹配结果。一般使用如下：
match(string[, pos[, endpos]])其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。因此，当不指定 pos 和 endpos 时，match 方法默认匹配字符串的头部。
当匹配成功时，返回一个 Match 对象，如果没有匹配上，则返回 None。
示例一
import re
def demo():
p1 = re.compile(r'\d+')
content = 'hello 123 world'
# 查找头部 没有匹配，返回None
m1 = p1.match(content)
print(m1)
# 从角标6到角标9的位置进行查找，此时有值，返回Match对象
m2 = p1.match(content, 6, 9)
print(m2)
# group 用于获得一个或多个分组匹配的字符串，当获取整个匹配的子串时，可以直接使用group()或group(0)
print(m2.group())
# start 获取分组匹配的子串在整个字符串中的起始位置
print(m2.start())
# end 获取分组匹配的子串在整个字符串中的结束位置
print(m2.end())
# span 返回(start,end)
print(m2.span())输出结果为：
None
<_sre.SRE_Match object; span=(6, 9), match='123'>
123
6
9
(6, 9)示例二
def demo2():
# re.I表示忽略大小写
pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I)
content = 'hello world hello python'
m = pattern.match(content)
# 打印匹配成功的整个字符串
print(m.group())
# 打印整个匹配字符串的起始和结束位置
print(m.span())
# 打印第一个分组匹配成功字符串的起始和结束位置
print(m.span(1))
# 打印第一个分组匹配成功字符串的起始和结束位置
print(m.span(2))
# 打印第一个分组匹配成功的子串
print(m.group(1))
# 打印第二个分组匹配成功的子串
print(m.group(2))
# 打印所有的分组
print(m.groups())输出结果为：
hello world
(0, 11)
(0, 5)
(6, 11)
hello
world
('hello', 'world')search
用于查找字符串的任何位置，也是一次匹配，只要找到了一个匹配的结果就返回，而不是查找所有匹配的结果，它的一般使用形式如下：
search(string[, pos[, endpos]])其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。
当匹配成功时，返回一个 Match 对象，如果没有匹配上，则返回 None。
示例一
def demo():
p = re.compile(r'\d+')
content = 'hello123world'
m = p.search(content) # 此时match匹配返回None
# 打印匹配到的数据
print(m.group())
# 打印匹配到的字符串在整串中的起始位置
print(m.start())
# 打印匹配到的字符串在整串中的结束位置
print(m.end())
# 打印匹配到的字符串在整串中的起始和结束位置
print(m.span())输出结果为：
123
5
8
(5, 8)示例二
def demo2():
p = re.compile(r'\d+')
content = 'hello123world'
m = p.search(content)
if m:
print('match str:' + m.group())
print('position:', m.span())输出结果为：
match str:123
position: (5, 8)findall
上面的 match 和 search 方法都是一次匹配，只要找到了一个匹配的结果就返回。然而，在大多数时候，我们需要搜索整个字符串，获得所有匹配的结果。
findall 方法的使用形式如下：
findall(string[, pos[, endpos]])其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。
findall 以列表形式返回全部能匹配的子串，如果没有匹配，则返回一个空列表。
示例一
def demo():
p = re.compile(r'\d+')
m = p.findall('123hello412as999')
print(m)输出为：
['123', '412', '999']示例二
def demo2():
p = re.compile(r'\d+.\d*')
m = p.findall("3.141,'asv',4.1,12,'aaa9.9vvv'")
print(m)输出结果为：
['3.141', '4.1', '12,', '9.9']finditer
finditer 方法的行为跟 findall 的行为类似，也是搜索整个字符串，获得所有匹配的结果。但它返回一个顺序访问每一个匹配结果（Match 对象）的迭代器。
示例一
import re
def demo():
p = re.compile(r'\d+')
m = p.finditer('123hello412as999')
for item in m:
print(item.group(), item.span())
if __name__ == '__main__':
demo()
输出结果为：
123 (0, 3)
412 (8, 11)
999 (13, 16)split
split 方法按照规则将字符串分割后返回列表，它的使用形式如下：
split(string[, maxsplit])其中，maxsplit 用于指定最大分割次数，不指定将全部分割。
示例一
import re
def demo():
p = re.compile(r'[\s,\t;]+')
m = p.split('a, k b;;cd\tuu')
print(m)
if __name__ == '__main__':
demo()
输出结果为：
['a', 'k', 'b', 'cd', 'uu']sub
sub 方法用于替换。它的使用形式如下：
sub(repl, string[, count])其中，repl 可以是字符串也可以是一个函数：
如果 repl 是字符串，则会使用 repl 去替换字符串每一个匹配的子串，并返回替换后的字符串，另外，repl 还可以使用 id 的形式来引用分组，但不能使用编号 0；
如果 repl 是函数，这个方法应当只接受一个参数（Match 对象），并返回一个字符串用于替换（返回的字符串中不能再引用分组）。
count 用于指定最多替换次数，不指定时全部替换。
示例一
import re
def demo():
p = re.compile(r'(\w+) (\w+)')
str = 'hello 123,hello 456'
# sub 使用'hello python' 替换匹配到的 'hello' '123'
print(p.sub('hello python', str))
# 引用分组
print(p.sub(r'\2 \1', str))
print('*' * 20)
print(p.sub(fun_demo, str))
# 最多替换一次
print(p.sub(fun_demo, str, 1))
def fun_demo(m):
return 'hi ' + m.group(2)
if __name__ == '__main__':
demo()
输出为：
hello python,hello python
123 hello,456 hello
********************
hi 123,hi 456
hi 123,hello 456匹配中文
在某些情况下，我们想匹配文本中的汉字，有一点需要注意的是，中文的 unicode 编码范围 主要在 [u4e00-u9fa5]，这里说主要是因为这个范围并不完整，比如没有包括全角（中文）标点，不过，在大部分情况下，应该是够用的。
示例
假设现在想把字符串 title = u’你好，hello，世界’ 中的中文提取出来
import re
title = u'你好，hello，世界'
pattern = re.compile(r'[\u4e00-\u9fa5]+')
result = pattern.findall(title)
print(result)
输出为：
['你好', '世界']小结
贪婪模式和非贪婪模式
概念
- 贪婪模式：在整个表达式匹配成功的前提下，尽可能多的匹配 ( * )；
- 非贪婪模式：在整个表达式匹配成功的前提下，尽可能少的匹配 ( ? )；
- Python里数量词默认是贪婪的。
示例一
源字符串：abbbc
使用贪婪的数量词的正则表达式 ab* ，匹配结果： abbb
* 决定了尽可能多匹配 b，所以a后面所有的 b 都出现了
使用非贪婪的数量词的正则表达式ab*?，匹配结果： a
即使前面有 *，但是 ? 决定了尽可能少匹配 b，所以没有 b
示例二
源字符串：
aa<div>test1</div>bb<div>test2</div>cc使用贪婪的数量词的正则表达式：
<div>.*</div>，匹配结果：<div>test1</div>bb<div>test2</div>这里采用的是贪婪模式。在匹配到第一个
</div>时已经可以使整个表达式匹配成功，但是由于采用的是贪婪模式，所以仍然要向右尝试匹配，查看是否还有更长的可以成功匹配的子串。匹配到第二个</div>后，向右再没有可以成功匹配的子串，匹配结束，匹配结果为<div>test1</div>bb<div>test2</div>使用非贪婪的数量词的正则表达式：
<div>.*?</div>，匹配结果：<div>test1</div>正则表达式二采用的是非贪婪模式，在匹配到第一个
</div>时使整个表达式匹配成功，由于采用的是非贪婪模式，所以结束匹配，不再向右尝试，匹配结果为<div>test1</div>
正则表达式测试网址
至此，正则初步介绍就到这了，下一篇将会实战使用正则过滤网页数据。
扫一扫
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
