爬虫06-正则表达式使用（简）

最新推荐文章于 2024-04-24 17:54:22 发布

小白自留地

最新推荐文章于 2024-04-24 17:54:22 发布

阅读量110

点赞数

分类专栏： python爬虫文章标签：正则表达式爬虫

本文链接：https://blog.csdn.net/qq_43165880/article/details/116398650

版权

python爬虫专栏收录该内容

12 篇文章 2 订阅

订阅专栏

正则表达式
是对字符串操作的一种逻辑公式，用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个规则字符串用来表达对字符串的一种过滤逻辑

python的re库

正则表达式在线测试工具

使用场景
使用平常解析库bs/pq无法提取信息时，可用正则表达式提取

1. 常见匹配模式

模式	描述
\w	匹配字母数字及下划线
\W	匹配非字母数字下划线
\s	匹配任意空白字符，等价于 [\t\n\r\f].
\S	匹配任意非空字符
\d	匹配任意数字，等价于 [0-9]
\D	匹配任意非数字
\A	匹配字符串开始
\Z	匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串
\z	匹配字符串结束
\G	匹配最后匹配完成的位置
\n	匹配一个换行符
\t	匹配一个制表符
^	匹配字符串的开头
$	匹配字符串的末尾。
.	匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。
[…]	用来表示一组字符,单独列出：[amk] 匹配 ‘a’，‘m’或’k’
[^…]	不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。
*	匹配0个或多个的表达式。
+	匹配1个或多个的表达式。
?	匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n}	精确匹配n个前面表达式。
{n, m}	匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式
a\|b	匹配a或b
( )	匹配括号内的表达式，也表示一个组

2. re.match

re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。

re.match(pattern, string, flags=0)
#正则表达式、匹配的字符串、匹配模式

2.1 最常规的匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)

#这里.*可以匹配任意字符
#Demo$ 匹配字符串的结尾
print(result,'\n')

#返回匹配结果
print(result.group(),'\n')

#输出匹配结果范围
print(result.span())

在这里插入图片描述
上面的形式可以精确匹配到，但通用性不强，这里可以用 .* 匹配所有字符串

2.2 泛匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)  # .*不用加斜杠
#Demo$ 匹配字符串的结尾
print(result,'\n')

#返回匹配结果
print(result.group(),'\n')

#输出匹配结果范围
print(result.span())

在这里插入图片描述

2.3 匹配目标

获取指定内容
左右端点指出，用小括号括起来，使用group(1)，group(2)提取出来

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^Hello\s(\d+)\s.*Demo$', content)
print(result)

#用group(1)将正则表达式中的括号提出来，group(1)表示第一个括号
print(result.group(1),'\n')
print(result.span())

在这里插入图片描述

2.4 贪婪匹配

刚才是用 .*来匹配所有字符串，现在可以用 .*匹配空格

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)
'''这样没有取出来所有的数字，因为.*依次将前面的数字也匹配掉了'''
#re.match('^He.*(1\d+).*Demo$', content)
print(result,'\n')
print(result.group(1))

在这里插入图片描述

2.5 非贪婪匹配

？会指定匹配模式为非贪婪匹配，会匹配尽可能少的字符
匹配0个或1个由前面正则表达式定义的片段

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)
print(result,'\n')
print(result.group(1))

在这里插入图片描述

上面的?后面跟的是（\d+）,表示要开始匹配一个数字了，那么在匹配时，如果看到后面有一个数字，那么前面就停止匹配。
这个时候，.*? 匹配的就是Hello后面的这个空格，数字会全部提取出来

2.6 匹配模式

这里的例子，要匹配的字符串带有换行符

import re
content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content)
print(result)
#print(result.group(1))

这里是None，因为.* 是不能匹配换行符的，指定匹配模式后可以
如果不使用re.S参数，则只在每一行内进行匹配，如果一行没有，就换下一行重新开始，不会跨行。而使用re.S参数以后，正则表达式会将这个字符串作为一个整体，将“\n”当做一个普通的字符加入到这个字符串中，在整体中进行匹配。

content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content,re.S)
print(result)
print(result.group(1))

在这里插入图片描述

2.7 转义

有特殊字符，用反斜杠进行转义

import re

content = 'price is $5.00'
result = re.match('price is $5.00', content)
print(result)

输出：None

import re

content = 'price is $5.00'
result = re.match('price is \$5\.00', content)
print(result)

输出：
<re.Match object; span=(0, 14), match=‘price is $5.00’>

总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

3. re.search

re.match是从字符串的第一个字符开始匹配，如果第一个字符不匹配，就不能完成正常匹配，用起来不是很方便…

re.search 扫描整个字符串并返回第一个成功的匹配。

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content)
print(result)

#第一个字符不匹配，那么整个匹配失败

输出：None

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.search('Hello.*?(\d+).*?Demo', content)
print(result)
print(result.group(1))

输出：
总结：为匹配方便，能用search就不用match

3.1 匹配演练

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

输出：
齐秦往事随风

import re
result=re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',
                html,re.S)
print(result.group(1))
print(result.group(2))

输出：
齐秦
往事随风

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

输出：
任贤齐沧海一声笑

result=re.search('<li.*?singer="(.*?)">(.*?)</a>',html,re.S)
print(result.group(1))
print(result.group(2))

输出：
任贤齐
沧海一声笑

result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
    print(result.group(1), result.group(2))
    
#如果不加re.S，只会匹配没有换行符的

输出：
beyond 光辉岁月

4. re.findall

search是寻找一个结果的
findall是搜索字符串，以列表形式返回全部能匹配的子串。

results=re.findall('li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>',
                  html,re.S)
print(results)
for result in results:  #输出列表元素，需要循环遍历
    print(result)
    print(result[0],result[1],result[2])
    #print('\n')

在这里插入图片描述

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))
results=re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',
                  html,re.S)
print(results,'\n')

for result in results:
    #print(result)
    print(result[1])

在这里插入图片描述
说明：
正则表达式中有3个小括号，匹配3个部分内容，a标签，a的文本，a标签尾部

<li.*?> ----匹配li标签
\s*? -----可能有空格、多个空格可能没有空格
(<a.*?>)? ---匹配a标签，有或者没有
（\w+） ----匹配标签文本
（）? ----匹配a标签结尾，有或者没有
\s*? ----可能有空格、多个空格可能没有

4.1 re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串。

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('\d+', '', content)
print(content)

输出：
Extra stings Hello World_This is a Regex Demo Extra stings

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('\d+', 'Replacement', content)
print(content)

输出：
Extra stings Hello Replacement World_This is a Regex Demo Extra stings

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('(\d+)', r'\1 8910', content)
print(content)

输出：
Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

还是上面的html：

html = re.sub('<a.*?>|</a>', '', html)   # <a.*?>或</a>
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
print(results)
for result in results:
    print(result.strip())

在这里插入图片描述

5. re.compile

将一个正则表达式串编译成正则对象，以便于复用该匹配模式

import re

content = '''Hello 1234567 World_This
is a Regex Demo'''
pattern = re.compile('Hello.*Demo', re.S)
result = re.match(pattern, content)
#result = re.match('Hello.*Demo', content, re.S)
print(result)

输出：
<re.Match object; span=(0, 40), match=‘Hello 1234567 World_This\nis a Regex Demo’>

小白自留地

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
爬虫06-正则表达式使用（简）

正则表达式是对字符串操作的一种逻辑公式，用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个规则字符串用来表达对字符串的一种过滤逻辑python的re库正则表达式在线测试工具使用场景使用平常解析库bs/pq无法提取信息时，可用正则表达式提取...
复制链接

扫一扫