Python爬虫初探（三）——爬虫之正则表达式介绍

一、正则表达式
二、re模块
三、正则表达式的使用
四、正则表达式总结

一、正则表达式

正则表达式（regular expression）是一种工具，是用某种自定义规则的字符串，去匹配另外的字符串是否符合这种规则。在很多场景下都用得到，如匹配电话号码、身份证号、邮箱地址、日期格式等。

1.常用的一些字符

1.1 匹配一次

普通字符
字母、数字、汉字、下划线、以及没有特殊定义的符号，都是"普通字符"。正则表达式中的普通字符，在匹配的时候,只匹配与自身相同的一个字符。

例如：表达式c，在匹配字符串abcde时，匹配结果是：成功；匹配到的内容是c；匹配到的位置开始于2，结束于3。（注：下标从0开始还是从1开始，因当前编程语言的不同而可能不同）

元字符
元字符在正则表达式中表示一些特殊的含义或功能。

表达式	匹配规则
.	小数点可以匹配除了换行符\n以外的任意一个字符
|	表示逻辑或（会匹配到 | 两边的字符之一）
[ ]	匹配字符集中的一个字符
[ ^ ]	对字符集进行取反操作
–	匹配一个范围中的一个字符
\	对紧跟其后的一个字符进行转义
()	对表达式进行分组，将圆括号内的内容当做一个整体，并获得匹配的值

转义字符
一些无法书写或者具有特殊功能的字符，采用在前面加斜杠\进行转义的方法。

表达式	匹配规则
\r, \n	匹配回车和换行符
\t	匹配制表符
\\	匹配斜杠
\^	匹配^符号
\$	匹配$符号
\.	匹配小数点

预定义匹配字符集
正则表达式中的一些表示方法，可以同时匹配某个预定义字符集中的任意一个字符。比如，表达式\d可以匹配任意一个数字。虽然可以匹配其中任意字符，但是只能是一个，不是多个。

表达式	匹配规则
\d	匹配任意一个数字，0~9 中的任意一个
\w	匹配任意一个字母或数字或下划线，也就是 A-Z,a-z,0-9,_ 中的任意一个
\s	匹配空格、制表符、换页符等空白字符的其中任意一个

\D,\W,\S分别表示以上三者的取反。

以上都是单次匹配，即只匹配得到一次，不管有多少同类的字符。

1.2 匹配多次

有时候我们需要对某个片段进行重复匹配，例如手机号码13666666666，一般人可能会写成\d\d\d\d\d\d\d\d\d\d\d（注意，这不是一个恰当的表达式），不但写着费劲，看着也累，还不一定准确恰当。
这种情况可以使用表达式再加上修饰匹配次数的特殊符号{}，不用重复书写表达式就可以重复匹配。比如[abcd][abcd]可以写成[abcd]{2}。

表达式	匹配规则
{n}	前一个字符重复匹配n次
{m,n}	重复匹配前一个字符至少m次，至多n次
{m,}	重复匹配前一个字符至少m次
?	匹配前一个字符0次或者1次，相当于{0,1}
+	匹配前一个字符至少1次，相当于{1,}
*	匹配前一个字符0到任意次，相当于{0,}

1.3 位置匹配

有时候，我们对匹配出现的位置有要求，比如开头、结尾、单词之间等等。

表达式	匹配规则
^	在字符串开始的地方匹配，符号本身不匹配任何字符
$	在字符串结束的地方匹配，符号本身不匹配任何字符

二、re模块

在Python中需要通过正则表达式对字符串进行匹配的时候，可以使用一个模块，名字为re。需要我们事先导入这个模块。

这是re模块的使用过程

# 导入re模块
import re

# 使用match方法进行匹配操作
result = re.match(正则表达式,要匹配的字符串)

# 如果上一步匹配到数据的话，可以使用group方法来提取数据
# 作用是将匹配到的字符串给出
result.group()

1.常用的几个函数

就拿match()函数来说，它的形式是match(pattern, string, flags=0)
第一个参数是正则表达式，如果匹配成功，则返回一个match对象，否则返回一个None
第二个参数表示要匹配的字符串
第三个参数是标致位用于控制正则表达式的匹配方式 如: 是否区分大小写,多行匹配等等

函数	匹配规则
match(pattern, string, flags=0)	在给定字符串的开头进行匹配，如果匹配不成功则返回None，匹配成功返回一个匹配对象
search(pattern, string, flags=0)	在文本内查找，返回第一个匹配到的字符串。与match()是一样的，唯一的区别就是查找的位置不用固定在文本的开头。
compile(pattern, flags=0)	这个方法是re模块的工厂方法，用于将字符串形式的正则表达式编译为Pattern模式对象，可以实现更高效率的匹配。
findall(pattern, string, flags=0)	全文查找，它的返回值是一个匹配到的字符串的列表。这个列表没有group()方法，没有start、end、span，更不是一个匹配对象，仅仅是个列表！如果一项都没有匹配到，那么返回一个空列表。
split(pattern, string, maxsplit=0, flags=0)	re模块的split()方法和字符串的split()方法很相似，都是利用特定的字符去分割字符串。split有个参数maxsplit，用于指定分割次数。
sub(pattern, repl, string, count=0, flags=0)	sub()方法类似字符串的replace()方法，用指定的内容替换匹配到的字符，可以指定替换次数。

2.flag匹配模式

Python的re模块提供了一些可选的标志修饰符来控制匹配的模式。可以同时指定多种模式，通过与符号|来设置多种模式共存。如re.I | re.M被设置成I和M模式。

匹配模式	匹配规则描述
re.A	ASCII字符模式
re.I	使匹配对大小写不敏感，也就是不区分大小写的模式
re.L	做本地化识别（locale-aware）匹配
re.M	多行匹配，影响 ^ 和 $
re.S	使 .小数点这个通配符能够匹配包括换行在内的所有字符，针对多行匹配
re.U	根据Unicode字符集解析字符。这个标志影响 \w, \W, \b, \B
re.X	该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解

三、正则表达式的使用

1.单次匹配

1.1 match()函数的用法

匹配数字一次

In[1]:   re.match(r'\d','123').group()
Out[1]:  '1'

匹配数字三次

In[2]:   re.match(r'\d\d\d','123')