正则表达式(regular expression)描述了一种字符串匹配的模式,可以用来检查一个串是否含有某种子串、将匹配的子串做替换或者从某个串中取出符合某个条件的子串等。
正则表达式是由普通字符(例如字符 a 到 z)以及特殊字符(称为"元字符")组成的文字模式。
普通字符包括没有显式指定为元字符的所有可打印和不可打印字符。这包括所有大写和小写字母、所有数字、所有标点符号和一些其他符号。
非打印字符
非打印字符也可以是正则表达式的组成部分。下表列出了表示非打印字符的转义序列:
字符 | 描述 |
---|---|
\cx | 匹配由x指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。 |
\f | 匹配一个换页符。等价于 \x0c 和 \cL。 |
\n | 匹配一个换行符。等价于 \x0a 和 \cJ。 |
\r | 匹配一个回车符。等价于 \x0d 和 \cM。 |
\s | 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。 |
\S | 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。 |
\t | 匹配一个制表符。等价于 \x09 和 \cI。 |
\v | 匹配一个垂直制表符。等价于 \x0b 和 \cK。 |
1. 常用元字符
表2.常用的元字符
. | 匹配除换行符以外的任意字符 |
\w | 匹配字母或数字或下划线或汉字 |
\s | 匹配任意的空白符 |
\d | 匹配数字 |
\b | 匹配单词的开始或结束 |
^ | 匹配字符串的开始 |
$ |
匹配字符串的结束,如果设置了 RegExp 对象的 Multiline 属性,则 $ 也匹配 '\n' 或 '\r'
|
一个网站如果要求你填写的QQ号必须为5位到12位数字时,可以使用:
^\d{5,12}$
和忽略大小写的选项类似,有些正则表达式处理工具还有一个处理多行的选项。如果选中了这个选项,
^
和
$
的意义就变成了
匹配行的开始处和结束处
。
正则表达式引擎通常会提供一个“测试指定的字符串是否匹配一个正则表达式”的方法,如JavaScript里的RegExp.test()方法或.NET里的Regex.IsMatch()方法。这里的匹配是指是字符串里有没有符合表达式规则的部分。如果不使用
^
和
$
的话,对于
\d{5,12}
而言,使用这样的方法就只能保证字符串里
包含5到12连续位数字
,而不是整个字符串就是5到12位数字。
2. 字符转义
如果你想查找元字符本身的话,比如你查找
.
,或者
*
,就出现了问题:你没办法指定它们,因为它们会被解释成别的意思。这时你就得使用
\
来取消这些字符的特殊意义。因此,你应该使用
\.
和
\*
。当然,要查找
\
本身,你也得用
\\
.
例如:
deerchao\.net
匹配
deerchao.net
,
C:\\Windows
匹配
C:\Windows
。
3. 重复
代码/语法 | 说明 |
---|---|
* | 重复零次或更多次 |
+ | 重复一次或更多次 |
? | 重复零次或一次 |
{n} | 重复n次 |
{n,} | 重复n次或更多次 |
{n,m} | 重复n到m次 |
4. 字符类
匹配没有预定义元字符的字符集合,
在方括号里列出它们就行了:
[aeiou]
就匹配
任何一个英文元音字母
,
[.?!]
匹配
标点符号(.或?或!)
也可以轻松地指定一个字符
范围:
[0-9]
代表的含意与
\d
就是完全一致的,
一位数字
;同理
[a-z0-9A-Z_]
也完全等同于
\w
(如果只考虑英文的话)
5. 分枝条件
正则表达式里的
分枝条件
指的是有几种规则,如果满足其中任意一种规则都应该当成匹配,具体方法是用
|
把不同的规则分隔开。
0\d{2}-\d{8}|0\d{3}-\d{7}
这个表达式能
匹配两种以连字号分隔的电话号码:一种是三位区号,8位本地号(如010-12345678),一种是4位区号,7位本地号(0376-2233445)
。
\(?0\d{2}\)?[- ]?\d{8}|0\d{2}[- ]?\d{8}
这个表达式
匹配3位区号的电话号码,其中区号可以用小括号括起来,也可以不用,区号与本地号间可以用连字号或空格间隔,也可以没有间隔
。
\d{5}-\d{4}|\d{5}
这个表达式用于匹配美国的邮政编码。美国邮编的规则是5位数字,或者用连字号间隔的9位数字。之所以要给出这个例子是因为它能说明一个问题:
使用分枝条件时,要注意各个条件的顺序
。如果你把它改成
\d{5}|\d{5}-\d{4}
的话,那么就只会匹配5位的邮编(以及9位邮编的前5位)。原因是匹配分枝条件时,将会从左到右地测试每个条件,如果满足了某个分枝的话,就不会去再管其它的条件了。
6. 分组
想要重复多个字符,可以用小括号来指定
子表达式
(也叫做
分组
),然后就可以指定这个子表达式的重复次数了,我们也可以对子表达式进行其它一些操作
(\d{1,3}\.){3}\d{1,3}
是一个
简单的IP地址匹配
表达式。
不幸的是,它也将匹配
256.300.888.999
这种不可能存在的IP地址。如果能使用算术比较的话,或许能简单地解决这个问题,但是正则表达式中并不提供关于数学的任何功能,所以只能使用冗长的分组,选择,字符类来描述一个正确的IP地址:
((2[0-4]\d|25[0-5]|[01]?\d\d?)\.){3}(2[0-4]\d|25[0-5]|[01]?\d\d?)
。
7. 反义
有时需要查找不属于某个能简单定义的字符类的字符。比如想查找除了数字以外,其它任意字符都行的情况,这时需要用到
反义
:
表3.常用的反义代码
代码/语法 | 说明 |
---|---|
\W | 匹配任意不是字母,数字,下划线,汉字的字符 |
\S | 匹配任意不是空白符的字符 |
\D | 匹配任意非数字的字符 |
\B | 匹配不是单词开头或结束的位置 |
[^x] | 匹配除了x以外的任意字符 |
[^aeiou] | 匹配除了aeiou这几个字母以外的任意字符 |
例子:\S+匹配不包含空白符的字符串。
<a[^>]+>匹配用尖括号括起来的以a开头的字符串。
8. 后向引用
后向引用
用于重复搜索前面某个分组匹配的文本。
使用小括号指定一个子表达式后,
匹配这个子表达式的文本
(也就是此分组捕获的内容)可以在表达式或其它程序中作进一步的处理。默认情况下,每个分组会自动拥有一个
组号
,规则是:从左向右,以分组的左括号为标志,第一个出现的分组的组号为1,第二个为2,以此类推。
\b(\w+)\b\s+\1\b
可以用来匹配
重复的单词
,像
go go
, 或者
kitty kitty
。这个表达式首先是
一个单词
,也就是
单词开始处和结束处之间的多于一个的字母或数字
(
\b(\w+)\b
),这个单词会被捕获到编号为1的分组中,然后是
1个或几个空白符
(
\s+
),最后是
分组1中捕获的内容(也就是前面匹配的那个单词)
(
\1
)。
你也可以自己指定子表达式的
组名
。要指定一个子表达式的组名,请使用这样的语法:
(?<Word>\w+)
(或者把尖括号换成
'
也行:
(?'Word'\w+)
),这样就把
\w+
的组名指定为
Word
了。要反向引用这个分组
捕获
的内容,你可以使用
\k<Word>
,所以上一个例子也可以写成这样:
\b(?<Word>\w+)\b\s+\k<Word>\b
。
表4.常用分组语法
分类 | 代码/语法 | 说明 |
---|---|---|
捕获 | (exp) | 匹配exp,并捕获文本到自动命名的组里 |
(?<name>exp) | 匹配exp,并捕获文本到名称为name的组里,也可以写成(?'name'exp) | |
(?:exp) | 匹配exp,不捕获匹配的文本,也不给此分组分配组号 | |
零宽断言 | (?=exp) | 匹配exp前面的位置 |
(?<=exp) | 匹配exp后面的位置 | |
(?!exp) | 匹配后面跟的不是exp的位置 | |
(?<!exp) | 匹配前面不是exp的位置 | |
注释 | (?#comment) | 这种类型的分组不对正则表达式的处理产生任何影响,用于提供注释让人阅读 |
注意:
- 分组0对应整个正则表达式
- 实际上组号分配过程是要从左向右扫描两遍的:第一遍只给未命名组分配,第二遍只给命名组分配--因此所有命名组的组号都大于未命名的组号
- 你可以使用(?:exp)这样的语法来剥夺一个分组对组号分配的参与权.
9. 零宽断言
(?=exp)也叫零宽度正预测先行断言,它断言自身出现的位置的后面能匹配表达式exp。比如\b\w+(?=ing\b),匹配以ing结尾的单词的前面部分(除了ing以外的部分),如查找I'm singing while you're dancing.时,它会匹配sing和danc。
(?<=exp)也叫零宽度正回顾后发断言,它断言自身出现的位置的前面能匹配表达式exp。比如(?<=\bre)\w+\b会匹配以re开头的单词的后半部分(除了re以外的部分),例如在查找reading a book时,它匹配ading。
下面这个例子同时使用了这两种断言:
(?<=\s)\d+(?=\s)
匹配
以空白符间隔的数字(再次强调,不包括这些空白符)
。
10. 负向零宽断言
\b\w*q[^u]\w*\b
匹配
包含后面不是字母u的字母q的单词
。但是如果多做测试(或者你思维足够敏锐,直接就观察出来了),你会发现,如果q出现在单词的结尾的话,像
Iraq
,
Benq
,这个表达式就会出错。这是因为
[^u]
总要匹配一个字符,所以如果q是单词的最后一个字符的话,后面的
[^u]
将会匹配q后面的单词分隔符(可能是空格,或者是句号或其它的什么),后面的
\w*\b
将会匹配下一个单词,于是
\b\w*q[^u]\w*\b
就能匹配整个
Iraq fighting
。
负向零宽断言
能解决这样的问题,因为它只匹配一个位置,并不
消费
任何字符。现在,我们可以这样来解决这个问题:
\b\w*q(?!u)\w*\b
。
零宽度负预测先行断言
(?!exp)
,
断言此位置的后面不能匹配表达式exp
。例如:
\d{3}(?!\d)
匹配
三位数字,而且这三位数字的后面不能是数字
;
\b((?!abc)\w)+\b
匹配
不包含连续字符串abc的单词
。
同理,我们可以用
(?<!exp)
,
零宽度负回顾后发断言
来
断言此位置的前面不能匹配表达式exp
:
(?<![a-z])\d{7}
匹配
前面不是小写字母的七位数字
。
一个更复杂的例子:
(?<=<(\w+)>).*(?=<\/\1>)
匹配
不包含属性的简单HTML标签内里的内容
。
(?<=<(\w+)>)
指定了这样的
前缀
:
被尖括号括起来的单词
(比如可能是<b>),然后是
.*
(任意的字符串),最后是一个
后缀
(?=<\/\1>)
。注意后缀里的
\/
,它用到了前面提过的字符转义;
\1
则是一个反向引用,引用的正是
捕获的第一组
,前面的
(\w+)
匹配的内容,这样如果前缀实际上是<b>的话,后缀就是</b>了。整个表达式匹配的是<b>和</b>之间的内容(再次提醒,不包括前缀和后缀本身)。(
这个例子最能表现零宽断言的真正用途
)
11. 注释
小括号的另一种用途是通过语法
(?#comment)
来包含注释。例如:
2[0-4]\d(?#200-249)|25[0-5](?#250-255)|[01]?\d\d?(?#0-199)
。
要包含注释的话,最好是启用“忽略模式里的空白符”选项,这样在编写表达式时能任意的添加空格,Tab,换行,而实际使用时这些都将被忽略。启用这个选项后,在#后面到这一行结束的所有文本都将被当成注释忽略掉。例如,我们可以前面的一个表达式写成这样:
(?<= # 断言要匹配的文本的前缀
<(\w+)> # 查找尖括号括起来的字母或数字(即HTML/XML标签)
) # 前缀结束
.* # 匹配任意文本
(?= # 断言要匹配的文本的后缀
<\/\1> # 查找尖括号括起来的内容:前面是一个"/",后面是先前捕获的标签
) # 后缀结束
<(\w+)> # 查找尖括号括起来的字母或数字(即HTML/XML标签)
) # 前缀结束
.* # 匹配任意文本
(?= # 断言要匹配的文本的后缀
<\/\1> # 查找尖括号括起来的内容:前面是一个"/",后面是先前捕获的标签
) # 后缀结束
12. 贪婪与懒惰(尽可能多的匹配与尽可能少的匹配)
当正则表达式中包含能接受重复的限定符时,通常的行为是(在使整个表达式能得到匹配的前提下)匹配
尽可能多
的字符。以这个表达式为例:
a.*b
,它将会匹配
最长的以a开始,以b结束的字符串
。如果用它来搜索
aabab
的话,它会匹配整个字符串
aabab
。这被称为
贪婪
匹配。
有时,我们更需要
懒惰
匹配,也就是匹配
尽可能少
的字符。前面给出的限定符都可以被转化为懒惰匹配模式,只要在它后面加上一个问号
?
。这样
.*?
就意味着
匹配任意数量的重复,但是在能使整个匹配成功的前提下使用最少的重复
。现在看看懒惰版的例子吧:
a.*?b
匹配
最短的,以a开始,以b结束的字符串
。如果把它应用于
aabab
的话,它会匹配
aab(第一到第三个字符)
和
ab(第四到第五个字符)
。
注意:
为什么第一个匹配是aab(第一到第三个字符)而不是ab(第二到第三个字符)?简单地说,因为正则表达式有另一条规则,比懒惰/贪婪规则的优先级更高:最先开始的匹配拥有最高的优先权——The match that begins earliest wins。
代码/语法 | 说明 |
---|---|
*? | 重复任意次,但尽可能少重复 |
+? | 重复1次或更多次,但尽可能少重复 |
?? | 重复0次或1次,但尽可能少重复 |
{n,m}? | 重复n到m次,但尽可能少重复 |
{n,}? | 重复n次以上,但尽可能少重复 |
13. 处理选项
上面介绍了几个选项如忽略大小写,处理多行等,这些选项能用来改变处理正则表达式的方式。下面是.Net中常用的正则表达式选项:
名称 | 说明 |
---|---|
IgnoreCase(忽略大小写) | 匹配时不区分大小写。 |
Multiline(多行模式) | 更改^和$的含义,使它们分别在任意一行的行首和行尾匹配,而不仅仅在整个字符串的开头和结尾匹配。(在此模式下,$的精确含意是:匹配\n之前的位置以及字符串结束前的位置.) |
Singleline(单行模式) | 更改.的含义,使它与每一个字符匹配(包括换行符\n)。 |
IgnorePatternWhitespace(忽略空白) | 忽略表达式中的非转义空白并启用由#标记的注释。 |
ExplicitCapture(显式捕获) | 仅捕获已被显式命名的组。 |
一个经常被问到的问题是:是不是只能同时使用多行模式和单行模式中的一种?答案是:不是。这两个选项之间没有任何关系,除了它们的名字比较相似(以至于让人感到疑惑)以外。
14. 平衡组/递归匹配
这里介绍的平衡组语法是由.Net Framework支持的;其它语言/库不一定支持这种功能,或者支持此功能但需要使用不同的语法。
有时我们需要匹配像
( 100 * ( 50 + 15 ) )这样的可嵌套的层次性结构
,这时简单地使用
\(.+\)
则只会匹配到最左边的左括号和最右边的右括号之间的内容(这里我们讨论的是贪婪模式,懒惰模式也有下面的问题)。假如原来的字符串里的左括号和右括号出现的次数不相等,比如
( 5 / ( 3 + 2 ) ) )
,那我们的匹配结果里两者的个数也不会相等。有没有办法在这样的字符串里匹配到最长的,配对的括号之间的内容呢?
这里需要用到以下的语法构造:
- (?'group') 把捕获的内容命名为group,并压入堆栈(Stack)
- (?'-group') 从堆栈上弹出最后压入堆栈的名为group的捕获内容,如果堆栈本来为空,则本分组的匹配失败
- (?(group)yes|no) 如果堆栈上存在以名为group的捕获内容的话,继续匹配yes部分的表达式,否则继续匹配no部分
- (?!) 零宽负向先行断言,由于没有后缀表达式,试图匹配总是失败
我们需要做的是每碰到了左括号,就在压入一个"Open",每碰到一个右括号,就弹出一个,到了最后就看看堆栈是否为空--如果不为空那就证明左括号比右括号多,那匹配就应该失败。正则表达式引擎会进行回溯(放弃最前面或最后面的一些字符),尽量使整个表达式得到匹配。
这里<、>分别表示\(、\)
< #最外层的左括号
[^<>]* #最外层的左括号后面的不是括号的内容
(
(
(?'Open'<) #碰到了左括号,在黑板上写一个"Open"
[^<>]* #匹配左括号后面的不是括号的内容
)+
(
(?'-Open'>) #碰到了右括号,擦掉一个"Open"
[^<>]* #匹配右括号后面不是括号的内容
)+
)*
(?(Open)(?!)) #在遇到最外层的右括号前面,判断黑板上还有没有没擦掉的"Open";如果还有,则匹配失败
> #最外层的右括号
平衡组的一个最常见的应用就是匹配HTML,下面这个例子可以匹配
嵌套的<div>标签
:
<div[^>]*>[^<>]*(((?'Open'<div[^>]*>)[^<>]*)+((?'-Open'</div>)[^<>]*)+)*(?(Open)(?!))</div>
.
还有些什么东西没提到
上边已经描述了构造正则表达式的大量元素,但是还有很多没有提到的东西。下面是一些未提到的元素的列表,包含语法和简单的说明。
代码/语法 | 说明 |
---|---|
\a | 报警字符(打印它的效果是电脑嘀一声) |
\b | 通常是单词分界位置,但如果在字符类里使用代表退格 |
\t | 制表符,Tab |
\r | 回车 |
\v | 竖向制表符 |
\f | 换页符 |
\n | 换行符 |
\e | Escape |
\0nn | ASCII代码中八进制代码为nn的字符 |
\xnn | ASCII代码中十六进制代码为nn的字符 |
\unnnn | Unicode代码中十六进制代码为nnnn的字符 |
\cN | ASCII控制字符。比如\cC代表Ctrl+C |
\A | 字符串开头(类似^,但不受处理多行选项的影响) |
\Z | 字符串结尾或行尾(不受处理多行选项的影响) |
\z | 字符串结尾(类似$,但不受处理多行选项的影响) |
\G | 当前搜索的开头 |
\p{name} | Unicode中命名为name的字符类,例如\p{IsGreek} |
(?>exp) | 贪婪子表达式 |
(?<x>-<y>exp) | 平衡组 |
(?im-nsx:exp) | 在子表达式exp中改变处理选项 |
(?im-nsx) | 为表达式后面的部分改变处理选项 |
(?(exp)yes|no) | 把exp当作零宽正向先行断言,如果在这个位置能匹配,使用yes作为此组的表达式;否则使用no |
(?(exp)yes) | 同上,只是使用空表达式作为no |
(?(name)yes|no) | 如果命名为name的组捕获到了内容,使用yes作为表达式;否则使用no |
(?(name)yes) | 同上,只是使用空表达式作为no |