python爬虫正则表达式re库简介

python爬虫：

实际上爬虫一共就四个主要步骤：

1. 明确目标 (要知道你准备在哪个范围或者网站去搜索)
2. 爬 (将所有的网站的内容全部爬下来)
3. 取 (去掉对我们没用处的数据)
4. 处理数据（按照我们想要的方式存储和使用）

我们down下了的数据是全部的网页，这些数据很庞大并且很混乱，大部分的东西是我们不关心的，因此我们需要将下载的数据按我们的需要过滤和匹配出来。那么对于文本的过滤或者规则的匹配，最强大的就是正则表达式，是Python爬虫世界里必不可少的神兵利器。

什么是正则表达式？
正则表达式，又称规则表达式，通常被用来检索、替换那些符合某个模式(规则)的文本。
正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合， 组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。

正则表达式匹配规则：

【这部分内容可百度，比较多，常用的都是组合的，到时候可以查】

\：将下一个字符标记符、或一个向后引用、或一个八进制转义符。例如，“\n”匹配\n。“\n”匹配换行符。序列“\”匹配“\”而“(”则匹配“(”。即相当于多种编程语言中都有的“转义字符”的概念。
^{：匹配输入字行首。如果设置了RegExp对象的Multiline属性，}也匹配“\n”或“\r”之后的位置。
$：匹配输入行尾。如果设置了RegExp对象的Multiline属性，$也匹配“\n”或“\r”之前的位置。
：
匹配前面的子表达式任意次。例如，zo能匹配“z”，也能匹配“zo”以及“zoo”。等价于{0,}。
+：
匹配前面的子表达式一次或多次(大于等于1次）。例如，“zo+”能匹配“zo”以及“zoo”，但不能匹配“z”。+等价于{1,}。
?：
匹配前面的子表达式零次或一次。例如，“do(es)?”可以匹配“do”或“does”。?等价于{0,1}。
{n}：
n是一个非负整数。匹配确定的n次。例如，“o{2}”不能匹配“Bob”中的“o”，但是能匹配“food”中的两个o。
{n,}：
n是一个非负整数。至少匹配n次。例如，“o{2,}”不能匹配“Bob”中的“o”，但能匹配“foooood”中的所有o。“o{1,}”等价于“o+”。“o{0,}”则等价于“o”。
{n,m}：
m和n均为非负整数，其中n<=m。最少匹配n次且最多匹配m次。例如，“o{1,3}”将匹配“fooooood”中的前三个o为一组，后三个o为一组。“o{0,1}”等价于“o?”。请注意在逗号和两个数之间不能有空格。
?：
当该字符紧跟在任何一个其他限制符（*,+,?，{n}，{n,}，{n,m}）后面时，匹配模式是非贪婪的。非贪婪模式尽可能少地匹配所搜索的字符串，而默认的贪婪模式则尽可能多地匹配所搜索的字符串。例如，对于字符串“oooo”，“o+”将尽可能多地匹配“o”，得到结果[“oooo”]，而“o+?”将尽可能少地匹配“o”，得到结果 [‘o’, ‘o’, ‘o’, ‘o’]
.：点
匹配除“\n”和"\r"之外的任何单个字符。要匹配包括“\n”和"\r"在内的任何字符，请使用像“[\s\S]”的模式。
(pattern)：
匹配pattern并获取这一匹配。所获取的匹配可以从产生的Matches集合得到，在VBScript中使用SubMatches集合，在JScript中则使用$0…$9属性。要匹配圆括号字符，请使用“(”或“)”。
(?:pattern)：
非获取匹配，匹配pattern但不获取匹配结果，不进行存储供以后使用。这在使用或字符“(|)”来组合一个模式的各个部分时很有用。例如“industr(?:y|ies)”就是一个比“industry|industries”更简略的表达式。
(?=pattern)：
非获取匹配，正向肯定预查，在任何匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如，“Windows(?=95|98|NT|2000)”能匹配“Windows2000”中的“Windows”，但不能匹配“Windows3.1”中的“Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
(?!pattern)：
非获取匹配，正向否定预查，在任何不匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如“Windows(?!95|98|NT|2000)”能匹配“Windows3.1”中的“Windows”，但不能匹配“Windows2000”中的“Windows”。
(?<=pattern)：
非获取匹配，反向肯定预查，与正向肯定预查类似，只是方向相反。例如，“(?<=95|98|NT|2000)Windows”能匹配“2000Windows”中的“Windows”，但不能匹配“3.1Windows”中的“Windows”。
*python的正则表达式没有完全按照正则表达式规范实现，所以一些高级特性建议使用其他语言如java、scala等
(?<!pattern)：
非获取匹配，反向否定预查，与正向否定预查类似，只是方向相反。例如“(?<!95|98|NT|2000)Windows”能匹配“3.1Windows”中的“Windows”，但不能匹配“2000Windows”中的“Windows”。
*python的正则表达式没有完全按照正则表达式规范实现，所以一些高级特性建议使用其他语言如java、scala等
x|y：
匹配x或y。例如，“z|food”能匹配“z”或“food”(此处请谨慎)。“[z|f]ood”则匹配“zood”或“food”。
[xyz]：
字符集合。匹配所包含的任意一个字符。例如，“[abc]”可以匹配“plain”中的“a”。
[^xyz]：
负值字符集合。匹配未包含的任意字符。例如，“[^abc]”可以匹配“plain”中的“plin”任一字符。
[a-z]：
字符范围。匹配指定范围内的任意字符。例如，“[a-z]”可以匹配“a”到“z”范围内的任意小写字母字符。
注意:只有连字符在字符组内部时,并且出现在两个字符之间时,才能表示字符的范围; 如果出字符组的开头,则只能表示连字符本身.
[^a-z]：
负值字符范围。匹配任何不在指定范围内的任意字符。例如，“[^a-z]”可以匹配任何不在“a”到“z”范围内的任意字符。
\b：
匹配一个单词的边界，也就是指单词和空格间的位置（即正则表达式的“匹配”有两种概念，一种是匹配字符，一种是匹配位置，这里的\b就是匹配位置的）。例如，“er\b”可以匹配“never”中的“er”，但不能匹配“verb”中的“er”；“\b1_”可以匹配“1_23”中的“1_”，但不能匹配“21_3”中的“1_”。
\B：
匹配非单词边界。“er\B”能匹配“verb”中的“er”，但不能匹配“never”中的“er”。
\cx：
匹配由x指明的控制字符。例如，\cM匹配一个Control-M或回车符。x的值必须为A-Z或a-z之一。否则，将c视为一个原义的“c”字符。
\d：
匹配一个数字字符。等价于[0-9]。grep 要加上-P，perl正则支持
\D：
匹配一个非数字字符。等价于[^0-9]。grep要加上-P，perl正则支持
\f：
匹配一个换页符。等价于\x0c和\cL。
\n：
匹配一个换行符。等价于\x0a和\cJ。
\r：
匹配一个回车符。等价于\x0d和\cM。
\s：
匹配任何不可见字符，包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。
\S：
匹配任何可见字符。等价于[^ \f\n\r\t\v]。
\t：
匹配一个制表符。等价于\x09和\cI。
\v：
匹配一个垂直制表符。等价于\x0b和\cK。
\w：
匹配包括下划线的任何单词字符。类似但不等价于“[A-Za-z0-9_]”，这里的"单词"字符使用Unicode字符集。
\W：
匹配任何非单词字符。等价于“[^A-Za-z0-9_]”。
\xn：
匹配n，其中n为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，“\x41”匹配“A”。“\x041”则等价于“\x04&1”。正则表达式中可以使用ASCII编码。
\num：
匹配num，其中num是一个正整数。对所获取的匹配的引用。例如，“(.)\1”匹配两个连续的相同字符。
\n：
标识一个八进制转义值或一个向后引用。如果\n之前至少n个获取的子表达式，则n为向后引用。否则，如果n为八进制数字（0-7），则n为一个八进制转义值。
\nm：
标识一个八进制转义值或一个向后引用。如果\nm之前至少有nm个获得子表达式，则nm为向后引用。如果\nm之前至少有n个获取，则n为一个后跟文字m的向后引用。如果前面的条件都不满足，若n和m均为八进制数字（0-7），则\nm将匹配八进制转义值nm。
\nml：
如果n为八进制数字（0-7），且m和l均为八进制数字（0-7），则匹配八进制转义值nml。
\un：
匹配n，其中n是一个用四个十六进制数字表示的Unicode字符。例如，\u00A9匹配版权符号（©）。
\p{P}：
小写 p 是 property 的意思，表示 Unicode 属性，用于 Unicode 正表达式的前缀。中括号内的“P”表示Unicode 字符集七个字符属性之一：标点字符。
其他六个属性：
L：字母；
M：标记符号（一般不会单独出现）；
Z：分隔符（比如空格、换行等）；
S：符号（比如数学符号、货币符号等）；
N：数字（比如阿拉伯数字、罗马数字等）；
C：其他字符。
*注：此语法部分语言不支持，例：javascript。
<
>：
匹配词（word）的开始（<）和结束（>）。例如正则表达式<the>能够匹配字符串"for the wise"中的"the"，但是不能匹配字符串"otherwise"中的"the"。注意：这个元字符不是所有的软件都支持的。
( )：
（ ) 之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用 \1 到\9 的符号来引用。
|：
将两个匹配条件进行逻辑“或”（or）运算。例如正则表达式(him|her) 匹配"it belongs to him"和"it belongs to her"，但是不能匹配"it belongs to them."。注意：这个元字符不是所有的软件都支持的。###### re模块：：

正则表达式使用 对特殊字符进行转义，所以如果我们要使用原始字符，只需要加一个 r 前缀，e.g.:r’ chuanzhiboke\t.\tpython’

使用步骤：

1.使用compile()函数将正则表达式的字符串编译为一个Pattern对象。

2.通过Pattern对象提供的一系列方法对文本进行匹配查找，获得匹配结果，一个Match对象。

3.最后使用Match对象提供的属性和方法获得信息，根据需要进行其他的操作。

compile函数：

import re
pattern = re.compile(r'\d+')#将正则表达式编译成pattern对象

Pattern对象：

正则表达式编译成Pattern对象，可以利用pattern的一系列方法对文本进行匹配查找
Pattern的主要方法：
match：从起始位置开始查找，一次匹配
search：从任何位置开始查找，一次匹配
findall：全部匹配，返回列表
finditer：全部匹配，返回迭代器
split：分割字符串，返回列表
sub:替换

match方法：

match方法用于查找字符串头部（可以指定起始位置），它是一次匹配，只要找到一个匹配结果就返回，而不是查找所有匹配的结果。一般形式：match(string[,pos[,endpos]])
string:待匹配字符串
pos：字符串起始位置，默认为0
endpos:字符串终点位置，默认值len(字符串长度)

Match对象：

group([group1,...]):用于获得一个或多个分组匹配的字符串，当要获得整个匹配的子串时，可直接使用group()或group(0)
start([group]):用于获取分组匹配的子串在整个字符串中的起始位置(子串第一个字符索引)，参数默认值为0
end([group])：同上，结束位置(字符串的最后一个索引加1)
span([group]):返回(start(group),end(group))

search方法：

主要用于查找字符串的任何位置，一次匹配，只要 查找到一个匹配结果就返回，而不是查找所有的匹配结果。使用形式如下：

当匹配成功时，返回一个Match对象，如果没有匹配上则返回None。

findall与finditer方法

findall方法搜索整个字符串，获得所有匹配结果。使用形式如下：

findall(string[,pos[,endpos]])

finditer方法也是搜索整个字符串，获得所有匹配的结果，但它返回一个顺序访问每一个匹配结果(Match对象)的迭代器。

split方法

split方法按照能匹配的子串将字符串分割后返回列表，使用形式如下：

split(string[,maxsplit])

maxsplit:指定最大分割次数，不指定则全部分割。

sub方法

使用方法如下：

sub(repl,string[,count])

repl可以是一个字符串也可以是一个函数：

1).是字符串，使用repl去替换字符串每一个匹配的子串，并返回替换后的字符串。

2).如果是repl函数，只接受Match对象作为参数，并返回字符串用于替换。

匹配中文unicode编码范围【u4e00-u9fa5】

贪婪模式与非贪婪模式：abbbc

1.贪婪模式：在整个表达式匹配成功的前提下，尽可能多的匹配(.*);使用贪婪的数量词的正则表达式 ab*,匹配结果：abbb。
*决定了尽可能多匹配b,所以a后面所有的b都出现了。
2.非贪婪模式：在整个表达式匹配成功的前提下，尽可能少的匹配( ? );使用非贪婪的数量词的正则表达式 ab*?,匹配结果：a。 .*b? .+?
即使前面有 * ，但是 ? 决定了尽可能少匹配 b,所以没有 b。
3.python里数量词默认是贪婪的。

例子

常见格式

#导入正则表达式对应模块
import re

#定义正则表达式规则
pattern = r'westos'
#对正则表达式进行编译，编译后匹配速度更快
patternObj = re.compile(pattern)
#将来要处理的字符串
text = "hello westos hello world westos"
#匹配是所有符合正规则的所有内容
result = patternObj.findall(text)
print(result)

#案例1：匹配所有qq邮箱，username@qq.com,其中username必须是字母数字或者下划线，次数为2-12之间；
import re

pattern1 = r'\s\w{2,12}@qq\.com'#定义规则
text = ' westos@qq.com  hello@qq.com dhghkhjghjkhjghkhjghkjh@qq.com'
patternObj = re.compile(pattern1)#编译
result = patternObj.findall(text)
print(result)

#案例2：北美电话的常用格式:(eg: 2703877865)
#前3位: 第一位是区号以2~9开头 , 第2位是0~8, 第三位数字可任意;
#中间三位数字:第一位是交换机号, 以2~9开头, 后面两位任意
#最后四位数字: 数字不做限制;
pattern2 = r'\(?[2-9][0-8]\d\)?[-\.\s]?[2-9]\d{2}[-\.\s]?\d{4}'
text = '(323)4567890'
patternObj = re.compile(pattern2)
result = patternObj.findall(text)
print(result)

分组

import re
"""
http://www.baidu.com
https://www.baidu.com
ftp://www.baidu.com
"""
# | 或者
# () 分组，如果有分组，只返回分组里面匹配到的内容；
# 匹配http和https协议的url地址；
# r:代表规则为原生字符串，一般情况下 \ 代表转义的意思，如果匹配的规则里面包含 \ 时，要写成 \\，而有了r,就不用 \\ 了。
URLpattern = r'((http|https)://(\w+\.\w+\.\w+))'
patterObj = re.compile(URLpattern)
text = 'http://www.baidu.com https://www.baidu.com ftp://www.baidu.com'
result = pattrenObj.findall(text)
print(result)

位置分组

import re

html = '<html><p>hello python</p></html>'
#r:原生字符串，\代表转义 ，\\如果没有r时必须用\\代表\字符串；
"""
<(.*)>:第一个分组
<(.*)>:第二个分组
(.*):第三个分组
</\2>:\2的位置必须和第二个分组的内容保持一致，否则不匹配；
</\1>:\1的位置不许和第一个分组保持一致，否则不匹配；
"""
pattern = r'<(.*)><(.*)>(.*)</\2></\1>'
patternObj = re.compile(pattern)
result = patternObj.findall(html)
print(result)

分割

import re
#需求 ：拿出操作中的所有数字
text = '1+3+5*10-8'
patternObj = re.compile(r'\+|-|\*|/')
#maxsplit = 最大分割数；
result = patternObj.split(text,maxsplit=4)
print(result)

批量替换

"""
sub 方法用于替换。
"""
import re
text = "本文章的点赞数为100，转发数为20"
patternObj = re.compile(r'\d+')
#将文本中的符合patternObj规则的东西替换为零；
result = patternObj.sub('0',text)
print(result)
#需求： 匹配到的所有数值加1
def addNum(matchObj):
    if matchObj:
        num = matchObj.grouip()#目前num是一个字符串
        num = int(num)+1
        return str(num)
def add_perfix(matchObj):
    if matchObj:
        return '1002' + matchObj.group()
result = patternObj.sub(addNum,text)
print(result)

result = patternObj.sub(add_perfix,text)
print(result)