跟着崔庆才学爬虫2：正则表达式

前面学习我们已经可以用request库获取网页的源代码，从而得到HTML代码，但是我们真正想要获取的信息是包含在HTML内的。要怎样从HTML代码获取想要的信息呢，正则表达式就是其中一个有效的方法。说了这么多，对于正则表达式的概念还是有点模糊，下面用几个实例加深一下对于正则的了解。

打开正则在线网站（在线正则表达式测试），输入待匹配的文本，然后选择常用的正则表达式，就可以得出相应的匹配结果。

实例语句：Hello,my phone number is 010-86432100 and email is cqc@cat.com,and my website is https://cat.com

 这段字符串包含了电话号码，email地址和一个URL，接下来尝试用正则表达式将这些内容依次提取出来。

打开网址可以看到网页右侧用一栏常用正则表达式

 在点击匹配email地址之后，匹配结果就会弹出我们实例语句中的email

是不是非常神奇。其实这里就是使用了正则表达式，也就是用一定的规则将特定的文本提取出来。

例如E-mail地址的开头是一段字符串，然后是一个@符号，最后是一个域名，这是有特定的组成格式的。另外队友URL，开头是协议类型，然后是冒号加双斜线，最后是域名路劲。

对于URL来说，可以使用下面的正则表达式

匹配URL : [a-zA-Z]+://[^\s]*

 用这个正则表达式去匹配一个字符串，如果这个字符串中包含类似URL文本，那么这部分就会被提取出来

写好正则表达式后，就可以拿它去一个长字符串里匹配查找了。不论这个字符串里有什么，只要符合我们写的规则，都可以找出来。

对于常用的匹配规则详细可以去这里看（正则表达式 – 简介 | 菜鸟教程）

正则表达式并非python独有，它也可以在其他变成语言中使用，但是python的re库提供了整个正则表达式的实现，利用这个库，可以在python中更加方便的使用正则表达式，下面我们就来详细介绍一下这个库。

re.match

re库是python的内部库无需额外安装。

这里我们首先介绍的第一个常用的匹配方式，向它传入要匹配字符串以及正则表达式，就可以检测这个正则表达式是否和字符串相匹配。

match方法会尝试从字符串的起始位置开始匹配正则表达式，如果匹配，就返回匹配成功的结果；如果不匹配，就返回None。实例如下

import re
content = "Hello 123 4567 World_This is a Regex Demo"
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}',content)
print(result)
print(result.group())
print(result.span())

运行结果

41
<re.Match object; span=(0, 25), match='Hello 123 4567 World_This'>

(.venv) D:\跟着崔庆才学爬虫>d:/跟着崔庆才学爬虫/.venv/Scripts/python.exe d:/跟着崔庆才学爬虫/正则表达式/1_match的使用.py
41
<re.Match object; span=(0, 25), match='Hello 123 4567 World_This'>
Hello 123 4567 World_This
(0, 25)

这个实例首先声明了一个字符串，其中包含了英文字母，空白字符，数字等，接着写一个正则表达式：

^Hello\s\d\d\d\s\d{4}\s\w{10}

用它来匹配声明的那个长字符串。开头^表示匹配字符串的开头，也就是以Hello开头；然后\s表示匹配空白字符，用来匹配目标字符串里Hello后面的空格；\d表示匹配数字，3个\d用来匹配123；紧接着的1个\s表示匹配空格；目标字符串的后面还有4567，我们其实依然可以用4个\d来匹配，但是这么写比较繁琐，所有可以用\d后面跟{4} 的形式代表匹配4次数字；后面又是一个空白字符，最后\w{10}则表示匹配10个字母及下划线。我们注意到这里其实并没有把目标字符串匹配完，不过这样依然可以进行匹配，只是匹配结果短一点而已。

这match方法中，第一个参数是传入了正则表达式，第二个参数是传入了要匹配的字符串。

将输出结果打印出来，可以看到结果是SRE_Match对象，证明匹配成功。该对象包含两个方法：group方法可以输出匹配到的内容，结果是Hello 123 4567 World_This，这恰好是正则表达式按照规则匹配的内容：span方法可以输出匹配的范围，结果是（0，25），这是匹配到结果字符串在原字符串中的位置范围。

通过上面的例子，我们基本了解了如何在python中使用正则表达式来匹配一段文字。

匹配目标

用match的方法可以实现匹配，如果想从字符串中提取一部分内容该怎么办？就像上一节的实例一样，从一段文本中提取出E-mail地址或电话号码。

可以使用括号（）将想提取的子字符串括起来。（）实际上标记一个子表达式的开始和结束位置，被标记的每个子表达式依次对应每个分组，调用group方法传入分组的索引即可活得提取结果。实例如下：

import re 
content = "Hello 1234567 World_This is a Regex Demo"
result = re.match('^Hello\s(\d+)\sWorld',content)
print(result)
print(result.group())
print(result.span())

 运行结果如下：

re.Match object; span=(0, 19), match='Hello 1234567 World'>
Hello 1234567 World
1234567
(0, 19)

可以看到我们成功得到了1234567。这里用的是group（1），它与group()有所不同，后者会输出完整的匹配结果，前者会输出被（）被包围的匹配结果。假如正则表达式后面还有（）包围的内容，那么可以依次用group(2),group(3)等获取

通用匹配

刚才我们写的正则表达式其实比较复杂，只要出现空白字符，就需要写\s匹配，出现数字就需要写\d匹配，这样的工作量非常大。其实完全没必要这么做，因为还有一个万能匹配可以用，就是.*。其中.可以匹配任意字符（除换行符），*代表匹配前面的字符无数次，所以它们组合在一起就可以匹配任意字符。有了它，我们就不要按个字符进行匹配了。

接着上面的例子，我们利用.*改写一下正则表达式。

import re
content ="Hello 123 4567 World_This is a Regex Demo"
result =re.match("^Hello.*Demo$",content)
print(result)
print(result.group())
print(result.span())

这里我们直接省略中间部分，全部用.*来代替，并在最后加一个结尾字符串。运行结果如下

<re.Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

可以看到，group方式输出了匹配的全部字符串，也就是说我们写的正则表达式匹配到了目标字符的全部内容；span方法输出（0，41） ，这是整个字符串的长度。

因此，使用.*能够简化正则表达式的书写。

贪婪和非贪婪

使用通用匹配.*匹配到的内容有时候并不是我们想要的结果。看下面的例子。

import re
content ="Hello 1234567 World_This is a Regex Demo"
result =re.match('^He.*(\d+).*Demo$',content)
print(result)
print(result.group(1))

 这里我们依然想获取目标字符串中间的数字，所以正则表达式中间写的依然是（\d+）。而数字两侧由于内容比较杂乱，所有想省略来写，于是都写成.*。最后，组成'^He.*(\d+).*Demo$'，看样子没有什么问题。可我们看下运行结果：

<re.Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
7

奇怪的事情发生了，只得到了7这个数字，这是怎么回事。

这里涉及贪婪匹配和非贪婪匹配的问题。在非贪婪匹配下，.*会匹配尽可能多的字符。正则表达式中.*后面是\d+,也就是至少一个数字，而且没有指定具体几个数字，因此，.*会匹配尽可能多的字符，这里就把123456都匹配了，只给\d+留下了一个可满足条件的数字7，因此最后得到的数字就只有数字7.

但这跟明显会给我们带来很大的不便。有时候，匹配结果会莫名奇妙的少一部分内容，其实，这里只需要使用非贪婪匹配就好了。非贪婪匹配的写法是.*?，比通用匹配多了一个？，那么它可以起到怎样的效果呢？我们再实例看一下：

import re
content ="Hello 1234567 World_This is a Regex Demo"
result =re.match('^He.*?(\d+).*Demo$',content)
print(result)
print(result.group(1))

这里只是将第一个“.*”改成了“.*?”，贪婪匹配就变成了非贪婪匹配。结果如下

<re.Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567

此时就可以成功获取到1234567了。原因可想而知，贪婪匹配时匹配尽可能多的字符，非贪婪匹配就算是匹配尽可能少的字符，于是这里.*?就不再进行匹配了，而是交给\d+去匹配。最后.*?匹配了尽可能少的字符，\d+的结果就是1234567

所以说，在做匹配的时候，字符串中间尽量使用非贪婪匹配，也就是用.*?代替.*以避免匹配结果缺失的情况。例如

import re
content = "https://mp.csdn.net/mp_blog/creation/editor/"
result1 = re.match("https.*?creation/(.*?)",content)
result2 = re.match("https.*?creation/(.*)",content)
print('result1',result1.group(1))
print('result2',result2.group(1))

输出结果如下

result1
result2 editor/

可以观察到，.*?没有匹配到任何结果，而.*则尽可能多匹配内容，成功得到了匹配结果。

修饰符

在正则表达式中，可以用一些可选标志修饰符来控制匹配的模式，修饰符被指定为一个可选的标志。我们可以用实例来看一下：

import re
content ='''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$',content)
print(result.group(1))

和上面例子相仿，我们在字符串中加入了换行符，正则表达式还是一样的，用来匹配其中的数字，看一下运行结果

  File "d:\跟着崔庆才学爬虫\正则表达式\5_修饰符.py", line 6, in <module>
    print(result.group(1))
          ^^^^^^^^^^^^
AttributeError: 'NoneType' object has no attribute 'group'

发现运行直接报错，也就是说正则表达式没有匹配到这个字符串，返回结果为None，而我们又调用了group方法，导致了 AttributeError。

那么，为什么要加一个换行符，就匹配不到了呢？这是因为匹配的内容是出换行符之外的任意字符，当遇到 换行符时，.*?就不能匹配了，所以导致匹配失败。这里只需要加一个修饰符re.S，即可修正这个错误：

result = re.match('^He.*?(\d+).*?Demo$',content,re.S)

 这个修饰符的作用是使匹配内容包括换换行符在内的所有字符，此时它的运行结果如下：

1234567

 这里的re.S在网页匹配中经常用到，因为HTML节点经常会换行，加上它，就可以匹配节点与节点之间的换行了。

另外还有一些修饰符，在必要的情况下也可以使用

re.I : 使匹配对大小写不敏感

re.L : 实现本地化识别（locale-aware）匹配

re.M ：多行匹配，影响^和$

re.S : 使匹配内容包括换行符在内的所有字符

re.U : 根据Unicode字符集解析字符。这个标志会影响\w,\W,\b和\B

re.X : 该标志能够给予你更灵活的格式，以便于正则表达式书写更易于理解。        

 在网页匹配中，较为常用的又re.S和re.L

转义匹配

我们知道正则表达式定义了许多匹配模式，如.用于匹配除换行符以外的任意字符。但是如果目标字符串里面就包含.这个字符，那么该怎么办呢？

这里就需要用到转义匹配了，实例如下：

import re
content = "(百度)www.baidu.com"
result = re.match('\(百度\)www\.baidu\.com',content)
print(result)

当在目标字符串中遇到用作正则表达式匹配模式的特殊字符时，在此字符面前加反斜\转义一下即可。例如\.就可以用来进行匹配.，运行结果如下

<re.Match object; span=(0, 17), match='(百度)www.baidu.com'> 

 search

前文提到过，match方法是从字符串的开头开始匹配的，意味着一旦开头不匹配，整个匹配就失败了，我们看下面的例子：

import re 
content = "Extra stings Hello 1234567 World_This is a Regex Demo Extra   stings"
result = re.search('Hello.*?(\d+).*?Demo',content)
print(result)

这里字符串以Extra开头，正则表达式却以Hello开头，其实整个正则表达式是字符串的一部分，但是这样匹配是失败的。运行结果如下：

None

因为match方法在使用某个需要考虑目标字符串开头的内容，因此在做匹配时并不方便，它更适合检测某个字符串是否符合某个正则表达式的规则。

这里就有另外一个方法search，它在匹配时会扫描整个字符串，然后返回第一个匹配成功的结果，也就是说，正则表达式可以是字符串的一部分，在匹配时，search方法会依次以每个字符作为开头扫描字符串，知道找到第一个符合规则的字符串，然后返回匹配内容；如果扫描完还没有找到符合规则的字符串，则返回None。

我们把上面代码中的match方法修改成search，再来看下结果，

<re.Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'>

 这是我们就得到了匹配结果。因此为了匹配方便，尽量使用search方法，下面再用几个实例看看search方法的用法。

首先，以一段HTML文本为例，接下来写几个正则表达式实例实现相应信息的提取：

html="""

<div id="songs-list>

<h2>经典老歌</h2>

<p class="introduction">

经典老歌列表

</p>

<ul id="list" class="list-group">

<li data-view="2">沧海一声笑</li>

<li data-view="7">

<a href="2.mp3" singer="任贤齐">沧海一声笑</a>

</li>

<li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

<li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

<li data-view="5">

<a href="/6.mp3" singer="邓丽君">但愿人长久</a>

</li>

</ul>

</div>"""

可以观察到，ul节点里有许多li节点，这些li节点中有的包含a节点，有的不包含，a节点还有一些相应的属性——超链接和歌手。

首先，我们尝试提取class为active的li节点内部的超链接包含歌手和歌曲，也就是说要提取第三个li节点下a节点的singer属性和文本。

此时正则表达式可以以li开头，然后寻找一个标识符active，中间的部分用.*?来匹配，接下来，因为要提取singer这个属性值，所以还需要写入singer="(.*?)",这里把需要提取的部分用小括号括了起来，以便用group方法提取出来，小括号两侧是双引号，然后还需要匹配a节点的文本，此文本左边界是>，右边界是</a>。然后目标内容依旧是用（.*?）来匹配，所以最后的正则表达式就变成了：

<li.*?active.*?singer="(.*?)">(.*?)</a>

调用search方法，他会搜索整个HTML文本，找到符合上述正则表达式的第一个内容并返回，另外，文本中有换行，所以在search方法中的第三个参数需要传入修饰符re.S。实例如下

import re
html="""
<div id="songs-list>
<h2>经典老歌</h2>
<p class="introduction">
经典老歌列表
</p>
<ul id="list" class="list-group">
<li data-view="2">沧海一声笑</li>
<li data-view="7">
<a href="2.mp3" singer="任贤齐">沧海一声笑</a>
</li>
<li data-view="4" class="active">
<a href="/3.mp3" singer="齐秦">往事随风</a>
</li>
<li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
<li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
<li data-view="5">
<a href="/6.mp3" singer="邓丽君">但愿人长久</a>
</li>
</ul>
</div>"""

result=re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',html,re.S)

print(result.group(1),result.group(2))

运行结果如下：

齐秦 往事随风

可以看到，这正是class为active的li节点内部的超链接包含歌手名和歌曲名称。

如果正则表达式不加active（也就是匹配不带class为active的节点内容），会怎样，我们对代码进行修改再次运行一下。

result=re.search('<li.*?singer="(.*?)">(.*?)</a>',html,re.S)

print(result.group(1),result.group(2))

 由于search方法返回第一个符合条件的匹配目标，于是这里结果就变了。

任贤齐 沧海一声笑

 把active标签去点后，从字符串开头开始搜索，此时符合条件的节点就变成了第二个li节点，后面就不再匹配，所以运行结果就变成了第二个li节点中的内容

注意，上面的两次匹配中，search方法的第三个参数都加上了re.S，这使得.*?可以匹配换行，所以含有换行的li节点被匹配到了，如果我们将其去点，结果会是什么，修改代码如下

result=re.search('<li.*?singer="(.*?)">(.*?)</a>',html)
print(result.group(1),result.group(2))

运行结果

beyond 光辉岁月

 可以看到结果变成了第四个li节点中的内容，这是因为第二个和第三个节点里都包含换行，去掉re.S之后，.*?已经不能匹配换行符，所以正则表达式不会匹配这两个节点，而第四个节点不包含换行符，可以成功匹配。

由于绝大部分的HTML文本包含换行符，所以我们写代码时尽量加上re.S修饰符，以免出现匹配不到的问题。

findall

介绍完search方法的使用，它可以返回与正则表达式相匹配的第一个字符串，如果想要获取与正则表达式相匹配的所有字符串，该如何处理呢？这里就要用到findall方法了。

还是使用上面的HTML文本，如果想要获取所有的a节点的超链接，歌手，歌名，可以将search方法换成findall方法，其返回的结果是列表类型，需要 通过遍历来依次获取每组内容，代码如下

results=re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>',html,re.S)
print(results)
for result in results:
    print(result)
    print(result[0],result[1],result[2])

可以看到，返回的列表中每个元素都是元组类型，我们用索引依次取出每个条目即可

 [('2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '但愿人长久')]
('2.mp3', '任贤齐', '沧海一声笑')
2.mp3 任贤齐 沧海一声笑
('/3.mp3', '齐秦', '往事随风')
/3.mp3 齐秦 往事随风
('/4.mp3', 'beyond', '光辉岁月')
/4.mp3 beyond 光辉岁月
('/5.mp3', '陈慧琳', '记事本')
/5.mp3 陈慧琳 记事本
('/6.mp3', '邓丽君', '但愿人长久')
/6.mp3 邓丽君 但愿人长久

 总结一下，如果我们只想获取到的第一个字符串，可以用search方法，如果需要提取多个内容，可以用findall方法。

sub

除了正则表达式提取信息，有时候还需要借助它修改文本，例如想要把一串文本中所有数字去掉，如果只用字符串的replace方法，就显得太繁琐了，这是我们可以借用sub方法，实例如下

import re
content = '45ASDASDA45SD7AGFFSGS987D6A6F4ASDFAF'
result=re.sub('\d+','',content)
print(result)

运行结果

ASDASDASDAGFFSGSDAFASDFAF

 这里往sub方法的第一个参数中传入一个\d+以匹配所有的数字，第二个参数中传入把数字替换成的字符串（如果去掉该参数，可以赋值为空），第三个参数是原始字符串

在上面的HTML文本中，如果想获取所有li节点的歌名，直接用正则表达式来提取会比较繁琐，实例如下

results=re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)
for result in results:
    print(result[1])

运行结果：

沧海一声笑
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

 这里可以看到提取出歌名了，但是借助sub方法会更加简单，可以先用sub方法将a节点去掉，只留下文本，然后再用findall提取就好了：

html=re.sub('<a.*?>|</a>','',html)
print(html)
results=re.findall('<li.*?>(.*?)</li>',html,re.S)
for result in results:
    print(result.strip())

匹配结果：

<div id="songs-list>
<h2>经典老歌</h2>
<p class="introduction">
经典老歌列表
</p>
<ul id="list" class="list-group">
<li data-view="2">沧海一声笑</li>
<li data-view="7">
沧海一声笑
</li>
<li data-view="4" class="active">
往事随风
</li>
<li data-view="6">光辉岁月</li>
<li data-view="5">记事本</li>
<li data-view="5">
但愿人长久
</li>
</ul>
</div>
沧海一声笑
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

 上面是使用sub方法修改后的文本，可以看到<a></a>节点已经没有了，然后直接通过findall方法直接提取即可。可以发现适当使用sub方法可以起到事半功倍的效果。

compile

前面所讲到的方法都是用来处理字符串的方法，最后再来介绍一下compile方法，这个方法可以将正则编译成正则表达式对象，以便后面的匹配中复用，实例代码如下：

import re
content1 = '2019-12-15 12:00'
content2='2019-12-17 12:55'
content3='2019-12-22 12:21'
pattern=re.compile('\d{2}:\d{2}')
result1 = re.sub(pattern,'',content1)
result2 = re.sub(pattern,'',content2)
result3 = re.sub(pattern,'',content3)
print(result1,result2,result3)

运行结果如下：2019-12-15  2019-12-17  2019-12-22

 另外，compile还可以传入修饰符，例如re.S等修饰符，这样在search，findall等方法就不需要额外传了。所以，可以说compile方法是给正则做了一层封装，以方便我们更好的复用。

总结

到此为止，正则表达式的基本用法就介绍完了，后面会用具体实例来巩固这些知识。