Python爬虫第4课正则表达式基础

最新推荐文章于 2020-03-25 09:46:50 发布

黎明前最后的黑暗

最新推荐文章于 2020-03-25 09:46:50 发布

阅读量523

点赞数

分类专栏： Python爬虫 Python学习文章标签： Python爬虫正则表达式

本文链接：https://blog.csdn.net/weixin_42057995/article/details/89481471

版权

Python学习同时被 2 个专栏收录

28 篇文章 0 订阅

订阅专栏

Python爬虫

9 篇文章 0 订阅

订阅专栏

正则表达式基础

目标

● 什么是正则表达式
●详细讲解
●综合实战——爬取豆瓣图书

01.什么是正则表达式

正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定的字符以及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用俩表达对字符串的一种过滤逻辑。
非Python独有，re模块实现。

02.详细讲解

2.1 常用的匹配模式

模式	描述
\w	匹配字母数字及下划线
\W	匹配f非字母数字下划线
\s	匹配任意空白字符，等价于[\t\n\r\f]
\S	匹配任意非空字符
\d	匹配任意数字
\D	匹配任意非数字
\A	匹配字符串开始
\Z	匹配字符串结束，如果存在换行，只匹配换行前的结束字符串
\z	匹配字符串结束
\G	匹配最后匹配完成的位置
\n	匹配一个换行符
\t	匹配一个制表符
^	匹配字符串的开头
$	匹配字符串的末尾
.	匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[…]	用来表示一组字符，单独列出：[amk]匹配a,m或k
[ ^… ]	不在[]中的字符：[ ^abc ]匹配除了a,b,c之外的字符
*	匹配0个或多个的表达式
+	匹配1个或者多个的表达式
?	匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n}	精确匹配n前面的表示
{m,m}	匹配n到m次由前面的正则表达式定义片段，贪婪模式
a	b
()	匹配括号内的表达式，也表示一个组

2.2 re.match

re.match尝试从字符串的起始位置匹配一个模式，如果不是其实位置匹配成功的话，match()就返回None。

re.match(pattern, string, flags=0)

（1）最常规的匹配

import re

content = "hello 123 4567 World_This is a Andy Demo"
result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$',content)
# 字符串长度
print(len(content))
# 返回匹配结果
print(result)
print(result.group())
# 返回匹配字符串长度范围
print(result.span())

（2）泛匹配

import re

content = "Hello 123 4567 World_This is a Andy Demo"
# 用.* 匹配Hello和Demo之间的所有字符
result = re.match('^Hello.*Demo$', content)
# 字符串长度
print(len(content))
# 返回匹配结果
print(result)
print(result.group())
# 返回匹配字符串长度范围
print(result.span())

（3）匹配目标

import re

content = "Hello 1234567 World_This is a Andy Demo"
result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)
# 字符串长度
print(len(content))
# 返回匹配结果
print(result)
print(result.group())
# 返回匹配字符串长度范围
print(result.span())

（4）贪婪匹配

import re

content = "Hello 1234567 World_This is a Andy Demo"
result = re.match('^He.*(\d+).*Demo$',content)
print(result)
# 匹配（\d+）的内容
print(result.group(1))

（5）非贪婪匹配

import re

content = "Hello 1234567 World_This is a Andy Demo"
# ? 非贪婪，匹配尽可能少的字符
result = re.match('^He.*?(\d+).*Demo$',content)
print(result)
# 匹配（\d+）的内容
print(result.group(1))

（6）匹配模式

import re

content = "Hello 1234567 World_This" \
          "is a Andy Demo"
# . 不能匹配换行符,加上re.S匹配模式，.*即可匹配任意字符，包括换行符
result = re.match('^He.*?(\d+).*?Demo$',content,re.S)
print(result)
print(result.group(1))

（7）转义

import re

content = "price is $5.00"
result1 = re.match('price is $5.00',content) 
print(result)
# $,.是不能被match直接匹配的，要用反斜杠来进行转义才可以匹配
result2 = re.match('price is \$5\.00',content)
print(result)

总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

2.3 re.search

re.search 扫描整个字符串并返回第一个成功的匹配。

import re

content = "Extra stings Hello 1234567 World_This is an Andy Demo Extra stings"
# re.match 从第一个字符开始匹配，如果不成功就返回None
result1 = re.match('Hello.*?(\d+).*?Demo',content)
print(result1)
# re.search 扫描整个字符串并返回第一个匹配成功的
result2 = re.search('Hello.*?(\d+).*?Demo',content)
print(result2)

总结：为匹配方便，能用search不用match

匹配演练

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
# 匹配齐秦 往事随风
result1 = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
# 匹配任贤齐 沧海一声笑
result2 = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
# 不加re.S匹配模式，即不匹配换行符
result3 = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result1:
    print(result1.group(1), result1.group(2))
if result2:
    print(result2.group(1), result2.group(2))
if result3:
    print(result3.group(1), result3.group(2))

2.4 re.findall

搜索字符串，以列表形式返回全部能匹配的子串。
（1）演练1

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
# 匹配所有有超链接的歌手和歌名信息
results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

（2）演练2

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
# 匹配所有的歌手和歌名
results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result[1])

2.6 re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串。
（1）演练1

import re

content = "Extra stings Hello 1234567 World_This is an Andy Demo Extra stings"
# 将字符串中的1234567替换为空格
content1 = re.sub('\d+', '', content)
print(content1)
# 将字符串中1234567替换为replacement
content2 = re.sub('\d+', 'replacement', content)
print(content2)
# 替换原字符串本身
content3 = re.sub('(\d+)', r'\1 8910', content)
print(content3)

（2）演练2

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
html = re.sub('<a.*?>|</a>', '', html)
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
print(results)
for result in results:
    # 遍历输出，去除换行符
    print(result.strip())

2.7 re.complie

将正则表达式编译成正则表达式对象，以便于复用该匹配模式。

import re

content = "Hello 1234567 World_This " \
          "is a Andy Demo"
# 编译成pattern正则表达式对象，以便复用
pattern = re.compile('Hello.*Demo', re.S)
result = re.match(pattern, content)
print(result)

03.综合实战——爬取豆瓣图书

import requests
import re
content = requests.get('https://book.douban.com/').text
# pattern = re.compile('<li.*?cover.*?href="(.*?)"title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)
pattern = re.compile('<li.*?cover.*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)
results = re.findall(pattern, content)

for result in results:
    print(result)

黎明前最后的黑暗

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
Python爬虫第4课正则表达式基础

正则表达式基础目标● 什么是正则表达式●详细讲解01.什么是正则表达式正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定的字符以及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用俩表达对字符串的一种过滤逻辑。非Python独有，re模块实现。02.详细讲解2.1 常用的匹配模式模式描述\w匹配字母数字及下划线\W匹配f...
复制链接

扫一扫