Python正则表达式(持续更新,各种字符串筛选,总有一款适合您当前的功能)_python 正则表达式筛选(1)

函数语法:

re.match(pattern, string, flags=0)

pattern:正则表达式字符串。

string:需要匹配的字符串。

第三个flags是控制正则的严谨度,常用的两个:re.I不区分大小写,re.S遇到【\n】继续匹配。

示例:

注:re.match弊端:只能匹配是否以某字符串为开头的内容,所以很多场合不合适。

import re

'''
re.match弊端:只能匹配是否以某字符串为开头的内容
'''
result1 = re.match(r'I', 'i Have A Dream!', re.I)  # 在起始位置匹配,不区分大小写
result2 = re.match(r'Dream', 'I Have A dream!', re.I)  # 不在起始位置匹配,不区分大小写
print(result1)
print("匹配位置:", result1.span())
print("匹配字符串:", result1.group())
print(result2)

结果中我们能看到是否以字符串开头进行字符串匹配的区别,虽然都含有,但是不是开头的字符串就不匹配。

2、re.search函数·单一匹配-推荐指数【★★★★★】

注:re.search函数无论在哪里都能匹配字符串。

函数语法与re.match函数一样。

import re

'''
re.search:无论在哪里都能匹配
'''
result1 = re.search(r'I', 'I Have A Dream!', re.I)  # 不区分大小写
result2 = re.search(r'Dream', 'I Have A dream!dream', re.I)  # 不区分大小写
print(result1)
print("匹配位置:", result1.span())
print("匹配字符串:", result1.group())
print("匹配位置:", result2.span())
print("匹配字符串:", result2.group())

在结果中我们可以清晰的看到匹配到匹配到的位置。

以上两种都只能匹配一次,那么很多时候我们是一个超级大的字符串,或甚至是整个【H5】网页,那么,我们需要多个匹配的时候就不能使用这两个函数了。

3、re.findall函数·多项匹配-推荐指数【★★★★★】

在字符串中找到正则表达式所匹配的所有子串,并返回一个列表,如果有多个匹配模式,则返回元组列表,如果没有找到匹配的,则返回空列表。个人喜欢用列表所以五星推荐。

注:这里通上面的两个函数的本质却别就出来了,我们可以匹配一个大字符串中所有符合正则表达式的字符串。

示例:

import re

'''
re.findall:匹配所有符合正则表达式的字符串
'''
result1 = re.findall(r'I', 'I Have A Dream!I I I I I I I')  # 在起始位置匹配
result2 = re.findall(r'Dream', 'I Have A Dream!Dream')  # 不在起始位置匹配
print(result1)
print(result2)

结果中我们能看到所有符合的字符串都返回到了列表中,没有去重操作。

4、re.finditer函数·多项匹配-推荐指数【★★★★】

在字符串中找到正则表达式所匹配的所有子串,并把它们作为一个迭代器返回。个人不太喜欢用迭代器,故而推荐指数四颗星。

注:这里我与findall做了个对比,喜欢使用迭代器的可以使用这个函数啊。

import re

content = '''email:372699828@qq.com
email:feng8403000@163.com
email:qwe8403000@126.com
'''
result_findall = re.findall(r"\d+@\w+.com", content)
print("迭代器类型:", type(result_findall))
# 返回list
result_findall
for i in result_findall:
    print(i)

print("-" * 20)

result_finditer = re.finditer(r"\d+@\w+.com", content)
# 返回iterator
print("list列表类型:", type(result_finditer))
for i in result_finditer:
    print(i.group())

5、re.sub函数·替换函数-推荐指数【★★★★】

这个函数用的相对来说不是很多,一般正则梳理好的字符串就直接使用字符串的处理方法来搞定了。但是这个函数还是很方便的,只是我不推荐替换原内容。

示例:

import re

'''
re.sub:替换匹配字符串
'''
result1 = re.sub(r'I', '我', 'I Have A Dream!')
result2 = re.sub(r'Dream', '梦想', 'I Have A Dream!Dream')
print(result1)
print(result2)

结果中可以看到,这个替换匹配是默认多个匹配的。

二、正则表达式示例·总有一款适合你

1、正则表达式匹配HTML指定id/class的标签

r"<ul class=“chapter-list clearfix”>.*?"

.*?含义是不限任意字符的匹配,直到【?】后面的内容代表结束,这里【?】后面是【】,所以能截取整个ul标签的内容。以后用处很多,记住。

import re
import requests

'''
获取某网站·某个·class元素下·所有内容·返回字符串
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
print(result1)
print(len(result1[0]))
print(result1[0])

结果中能看截取成功:

2、正则表达式匹配HTML中所有a标签中的各类属性值

r’<a.*? href=“(.*?)”.*?>.*?’

同理,想获得【title】标签就将正则表达式中的属性换成想要的就行。

import re

'''
正则获取所有a标签的href值
'''
context = """
<a href="https://baidu.com" target="_blank">百度</a>
<a href="https://baidu.com" target="_blank">百度</a>
<a href="https://baidu.com" target="_blank">百度</a>
<a href="https://baidu.com" target="_blank">百度</a>
"""
result1 = re.findall(r'<a.*? href="(.*?)".*?>.*?</a>', context)
print(result1)

实际示例1:获取href值

import re
import requests

'''
获取某网站·某个·class元素下·所有内容·返回字符串·根据字符串匹配超链接的href值
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
a_href = re.findall(r'<a.*? href="(.*?)".*?>.*?</a>', result1[0], )
print("爬取成功:", len(a_href))
for item in a_href:
    print(item)

结果匹配到138条超链接的值:

实际示例2:获取title值

import re
import requests

'''
获取某网站·某个·class元素下·所有内容·返回字符串·根据字符串匹配超链接的title值
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
a_href = re.findall(r'<a.*? title="(.*?)".*?>.*?</a>', result1[0], )

for item in a_href:
    print(item)
print("爬取成功:", len(a_href))

结果可看到,同样匹配成功。

3、获取标签的文本值·例如:span标签、a标签文本

我这里处理的是a标签的文本,咱们没有使用框架,相对来说纯使用正则表达式稍微麻烦一些,但是处理方式还是不复杂的,可以看到我获取a标签所有内容后,将左右的标签符号去掉就剩下中间的文本了,还是挺容易获取的。如果是span标签,您直接把a标签替换成span标签就行了。

获取方法1:
import re
import requests

'''
获取某网站·某个·class元素下·所有内容·返回字符串·根据字符串匹配超链接的文本内容
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
a_href = re.findall(r'<a.*?>.*?</a>', result1[0])
data_list = []
left_text = ">"
right_text = "</a>"
for item in a_href:
    result = re.findall(r">.*?</a>", item)
    for item1 in result:
        item1 = item1.replace(left_text, "", 1).replace(right_text, "", 1)
        data_list.append(item1)
for item in data_list:
    print(item)
print("爬取成功:", len(data_list))

结果呈现,可以看到138条都筛选出来了。

获取方法2:

通过【()】的方法直接获取我们需要的内容

import re
import requests

'''
获取某网站·某个·class元素下·所有内容·返回字符串·根据字符串匹配超链接的文本内容
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
a_href = re.findall(r'<a.*?>.*?</a>', result1[0])
data_list = []
left_text = ">"
right_text = "</a>"
for item in a_href:
    result = re.findall(r">(.*?)</a>", item)
    data_list.append(result[0])
for item in data_list:
    print(item)
print("爬取成功:", len(data_list))

这种方法直接就能获取我们需要的内容:

4、key:value格式的数据

在下图中可以看到字典格式的数据,{“adv_type”:“bookDirectory00”,“adv_res”:“zongheng”,“pos”:“”}我们想要其中的"adv_type"的值,那么,我们需要用另外一种正则表达式了:

import re
import requests

'''
获取key:value的数据
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")

result1 = re.findall('"adv_type":"(.*?)"', context)
for item in result1:
    print(item)

结果示例:

5、匹配url

1、匹配短连接

r’(http[|s]?😕/[^\s]*/)’

import re
import requests

'''
提取字符串中的链接
'''
headers = {
    "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/104.0.0.0 Safari/537.36"
}
url_info = """6.69 Cuf:/ 售价888一碗的面!自己在家做需要花多少钱?# 百蟹面 # 六虾面   https://v.douyin.com/rhkGMfh/ 复制此链接,打开Dou音搜索,直接观看视频!"""
short_url = re.findall(r'(http[|s]?://[^\s]*/)', url_info)[0]
print(short_url)
url = requests.get(url=short_url, headers=headers).url
item_id = url.split('/')[4][0:19]
url = "https://www.iesdouyin.com/web/api/v2/aweme/iteminfo/?item_ids={0}".format(item_id)
html = requests.get(url, headers=headers)
title = html.json()['item_list'][0]['desc']  # 标题获取
print(title)

结果获取:

2、匹配长连接

r"“”(http|ftp|https)😕/[\w-_]+(.[\w-_]+)+([\w-.,@?=%&:/~+#]*[\w-@?=%&/~+#])?“”"

import re
import requests

'''
获取某网站·获取所有的长链接
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
result1 = re.findall(r"<ul class=\"chapter-list clearfix\">.*?</ul>", context, re.S)
# result1中包含多个长连接
rule = r"""(http|ftp|https):\/\/[\w\-_]+(\.[\w\-_]+)+([\w\-\.,@?^=%&:/~\+#]*[\w\-\@?^=%&/~\+#])?"""
result2 = re.findall(rule, result1[0], re.S)
data_list = []
for item in result2:
    new_url = "{0}://book.zongheng.com{1}".format(item[0], item[2])
    data_list.append(new_url)
for item in data_list:
    print(item)
print("获取连接:", len(data_list))

匹配的内容需要拼接一下:

3、各类网址url列表
正则表达式匹配网址类型示例
(httpftp
^\{2}[\w-]+\(([\w-][\w-\s]*[\w-]+[$ ] ? ]? ]?)([\w-][$ ] ? ]? ]?))
^(httphttps
^([a-zA-Z]:\\[^/\😗?"<>
\b(([\w-]+://?www[.])[^\s()<>]+(?:[\w\d]+[\w\d]+

4、网页中中文提取

r"[\u4E00-\u9FA5]"

import re
import requests

'''
获取某网站·获取网站中所有中文
'''
url = "https://book.zongheng.com/showchapter/1243826.html"
context = requests.get(url).content.decode("utf-8")
rule = r"[\u4E00-\u9FA5]"
result2 = re.findall(rule, context, re.S)
count = 0
for item in result2:
    if count % 10 == 0:
        print()
    print(item, end="")
    count += 1
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值