最近刚刚接触python的爬虫,这里面需要用到正则表达式,发个博客就当作学习笔记。
一、正则表达式的用途
正则表达式是一个特殊的字符序列,它能帮助你方便的检查一个字符串是否与某种模式匹配。
二、一些基本用法
首先,要使用正则表达式,你需要引用一个库
import re
接下来,先介绍一下一些常用的正则表达式模式(pattern)
^ :匹配字符串的开头
$ :匹配字符串的末尾。
. :匹配任意字符,除了换行符,当re.DOTALL标记被指定时,则可以匹配包括换行符的任意字符。
[…] :用来表示一组字符,单独列出:[amk] 匹配 ‘a’,‘m’或’k’
[^…] :不在[]中的字符:[^abc] 匹配除了a,b,c之外的字符。
re* :匹配0个或多个的表达式。
re+ :匹配1个或多个的表达式。
re? :匹配0个或1个由前面的正则表达式定义的片段,非贪婪方式
re{ n} :精确匹配 n 个前面表达式。例如, o{2} 不能匹配 “Bob” 中的 “o”,但是能匹配 “food” 中的两个 o。
re{ n,} :匹配 n 个前面表达式。例如, o{2,} 不能匹配"Bob"中的"o",但能匹配 “foooood"中的所有 o。“o{1,}” 等价于 “o+”。“o{0,}” 则等价于 “o*”。
re{ n, m} :匹配 n 到 m 次由前面的正则表达式定义的片段,贪婪方式
a| b :匹配a或b
(re) :对正则表达式分组并记住匹配的文本
(?imx): 正则表达式包含三种可选标志:i, m, 或 x 。只影响括号中的区域。
(?-imx) :正则表达式关闭 i, m, 或 x 可选标志。只影响括号中的区域。
(?: re) :类似 (…), 但是不表示一个组
(?imx: re) :在括号中使用i, m, 或 x 可选标志
(?-imx: re) :在括号中不使用i, m, 或 x 可选标志
(?#…) :注释.
(?= re) :前向肯定界定符。如果所含正则表达式,以 … 表示,在当前位置成功匹配时成功,否则失败。但一旦所含表达式已经尝试,匹配引擎根本没有提高;模式的剩余部分还要尝试界定符的右边。
(?! re) :前向否定界定符。与肯定界定符相反;当所含表达式不能在字符串当前位置匹配时成功
(?> re) :匹配的独立模式,省去回溯。
\w :匹配字母数字及下划线
\W :匹配非字母数字及下划线
\s :匹配任意空白字符,等价于 [ \t\n\r\f]。
\S :匹配任意非空字符
\d :匹配任意数字,等价于 [0-9].
\D :匹配任意非数字
\A :匹配字符串开始
\Z :匹配字符串结束,如果是存在换行,只匹配到换行前的结束字符串。
\z :匹配字符串结束
\G :匹配最后匹配完成的位置。
\b :匹配一个单词边界,也就是指单词和空格间的位置。例如, ‘er\b’ 可以匹配"never” 中的 ‘er’,但不能匹配 “verb” 中的 ‘er’。
\B :匹配非单词边界。‘er\B’ 能匹配 “verb” 中的 ‘er’,但不能匹配 “never” 中的 ‘er’。
\n, \t, 等. :匹配一个换行符。匹配一个制表符。等
\1…\9 :匹配第n个分组的内容。
\10 :匹配第n个分组的内容,如果它经匹配。否则指的是八进制字符码的表达式。
一些常用的可选标志(flags)
re.I :使匹配对大小写不敏感
re.L :做本地化识别(locale-aware)匹配
re.M :多行匹配,影响 ^ 和 $
re.S :使 . 匹配包括换行在内的所有字符
re.U :根据Unicode字符集解析字符。这个标志影响 \w, \W, \b, \B.
re.X :该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解。
一些函数
re.match函数
函数原型:re.match(pattern, string, flags=0)
解释:re.match 尝试从字符串的起始位置匹配一个模式,如果不是起始位置匹配成功的话,match()就返回none。
re.search函数
函数原型:re.search(pattern, string, flags=0)
解释:re.search 扫描整个字符串并返回第一个成功的匹配。
re.compile 函数
函数原型:re.compile(pattern,flags)
解释:compile 函数用于编译正则表达式,生成一个正则表达式( Pattern )对象,供 match() 和 search() 这两个函数使用。
输出对象的一些方法:
group([group1, …]) 方法用于获得一个或多个分组匹配的字符串,当要获得整个匹配的子串时,可直接使用 group() 或 group(0);
start([group]) 方法用于获取分组匹配的子串在整个字符串中的起始位置(子串第一个字符的索引),参数默认值为 0;
end([group]) 方法用于获取分组匹配的子串在整个字符串中的结束位置(子串最后一个字符的索引+1),参数默认值为 0;
span([group]) 方法返回 (start(group), end(group))。
三、一些实例
对应的结果我都注释在后面了
import re
link="www.baidu.com"
#obj=re.search(r'b(.*)',link) <re.Match object; span=(4, 13), match='baidu.com'>
#obj=re.search(r'b(.+)',link) <re.Match object; span=(4, 13), match='baidu.com'>
#obj=re.search(r'b(.*?)',link) <re.Match object; span=(4, 5), match='b'>
#obj=re.search(r'b(.+?)',link) <re.Match object; span=(4, 6), match='ba'>
#obj=re.search(r'$',link) <re.Match object; span=(13, 13), match=''>
obj=re.search(r'^',link) <re.Match object; span=(0, 0), match=''>
print(obj)
贪婪模式和懒惰模式的对比:
import re
string="11001230130"
#obj=re.match(r'(.*)30',string) <re.Match object; span=(0, 11), match='11001230130'>
#obj=re.match(r'(.*?)30',string) <re.Match object; span=(0, 8), match='11001230'>
print(obj)
实现分组输出:
import re
s = '1102231990xxxxxxxx'
res = re.search('(?P<province>\d{3})(?P<city>\d{3})(?P<born_year>\d{4})',s)
#{'province': '110', 'city': '223', 'born_year': '1990'}
print(res.groupdict())