正则表达式学习笔记

正则表达式学习笔记

Regular Expression正则表达式，是一种文本模式，包括普通字符（a-z，A-Z）和特殊字符（元字符）。

正则表达式使用打个字符来描述、匹配一系列匹配某个句法规则的字符串。

一、简介

初学者一般都不太熟悉正则表达式的专业术语，但一般程序员都会用过*和?两个符号，作为通配符，分别是配多个和单个字符。

data1.dat
data2.dat
#可以用data?.dat同时匹配如上两个
data3.dat
data4.dat
data123.dat
#如上，则需要data*.dat才能匹配到data123.dat这个。

1、为什么是用正则表达式

典型的搜索和替换操作，需要提供确切的匹配文本。正则表达式相比具有更高的灵活性：

• 测试字符串内的模式

  例如可以测试输入的字符串，是否包含特定格式，此种称为数据验证。

• 替换文本

  正则表达式来识别特定文本、删除和替换。

• 基于模式匹配从字符串中提取子字符串。

  可以查找文档内或者输入域内的特定字符。

2、发展历史

正则表达式雏形出现于生理学神经系统的研究中。后来被数学家Stephen Kleene用于描述正则集的代数表示，而形成正则表达式这个术语，虽有有应用于Unix系统的搜索算法，于是开始了计算机领域内的正则表达式的使用。

3、应用领域

正则表达式在许多软件中得到广泛应用，类Unix系统、HP系统，php、c#、java等。

二、语法

正则表达式(regular expression)描述的是一种字符串匹配模式，可用于检查是否包含、替换或取出符合条件的字符串。

• 列表目录时，使用*通配符的做法不属于正则表达式的范畴，因为在RegExp中*的含义不同
• 构造正则表达式的方式类似数学表达式。

1、普通字符

普通字符是指没有显式指定为元字符的所有可打印和不可打印字符，大小写字母、数字、表达符号和一些其他符号。

2、非打印字符

非打印字符也可以是正则表达式的组成部分，如下列转义序列的非打印字符：

字符	描述
\cx	匹配由x指明的控制字符。例如，\cM匹配一个Control-M或回车符。x必须为A-Z(a-z)。否则c将是为原意的`c`字符。
\f	匹配换页符。等价于\x0c和\cL。
\n	匹配换行符。等价于\x0a和\cJ。
\r	匹配回车符。等价于\x0d和\cM。
\s	匹配任何空白字符，包括空格，制表符、换页符等等。等价于[\f\n\r\t\v]。
\S	撇陪任何非空白字符。等价于[^ \f\n\t\v]。
\t	匹配一个制表符。等价于\x09和\cl。
\v	匹配一个垂直制表符。等价于\x0b和\cK。

3、特殊字符

包含特殊含义的字符，如*符号，通配符，若搜索本身的*符号，就需要转义匹配\*。特殊字符可以理解为正则表达式的关键字，若要匹配它们自己本身，就要用转义符\。

特殊字符	描述
$	匹配输入字符的结尾位置。如果设置了RegExp对象的Multiline属性，则$也匹配\n或\r。若要匹配$本身，就要用\$转义。
()	标识一个子表达式的首末位置。子表达式可以获取供以后使用。匹配符号本身用\(和\)。
*	匹配前面的子表达式零次或多次。匹配自身用\*。
+	匹配前面的子表达式一次或多次。匹配自身用\+。
.	匹配除换行符\n之外的任何单字符。匹配自身用\.。
[	标记中括号表达式的开始。匹配自身用\[。
?	匹配前面的子表达式零次或一次，或指明一个非贪婪限定符。匹配自身用\?。
\	将下一个字符标记为特殊字符、原义字符、向后引用、八进制转义等等。如n匹配n，\n匹配换行符。\\匹配\。
^	匹配输入字符串的开始位置，除非在方括号表达式中使用，此时他表示不接受该字符集合。匹配自身用\^。
{	标记限定符表达式的开始。匹配自身用{。
|	之名亮相之间的一个选择。匹配自身用|。

4、限定符

限定符用来指定正则表达式的一个给顶组件，必须要出现多少次才能满足匹配。有一下六种

字符	描述
*	匹配前面的子表达式零次或多次。例如，zo*能匹配”z”以及”zoo”，*等价于{0,}。
+	匹配前面的子表达式一次或多次。例如，zo+能匹配”zo”以及”zoo”，不能匹配”z”。+等价于{1,}。
?	匹配前面的子表达式零次或一次。例如，do(es)?可匹配”do”或”does”中的”do”。?等价于{0,1}。
{n}	n是一个非负整数。匹配确定的n次。例如，o{2}不能匹配”Bob”中的o，能匹配”food”中的两个o。
{n,}	你是一个非负整数。至少匹配n次。例如，o{2,}不能匹配”Bob”中的o,能匹配”foooood”中所有的o。o{1,}等价于o+。o{0,}等价于o*。
{n,m}	m、n均为非负整数。n<=m。最少匹配n次切最多匹配m次。例如，o{1,3}将匹配”foooood”中的前三个o。o{0,1}等价于o?。==注意逗号与数字间不能有空格==

章节编号亦可能大于9，正则表达式匹配正解标题

/Chapter [1-9](0-9)*/

*、+和?限定符都是贪婪的，尽可能多的匹配文字，在其后加上一个?则可实现非贪婪或最小匹配

#匹配<开始到>结束之间的所有内容。
/<.*>/

5、定位符

定位符可以是正则表达式固定到行首或行尾。用于描述字符串或单词的边界，^和$分别表示字符串的开始和结束。\b表示单词的前或后边界，\B表示非单词的边界。

字符	描述
^	匹配输入字符的开始位置。如果RegExp设置了Multiple属性，^还会与\n或\r之后的位置匹配。
$	匹配输入字符串的结尾位置。若RegExp设置了Multiple属性，$还会匹配\n或\r之前的位置。
\b	匹配一个字边界，即字与空格之间的位置。
\B	非字边界匹配。

注意：不能将限定符与定位点一起使用。由于在紧靠换行或者字边界的前面或后面不能有==一个以上==位置，因此不允许诸如^*之类的表达式。

• 匹配一行文本开始处的文本，在RegExp开始使用^字符。这与()内的^意思不同。
• 匹配一行文本结束处的文本，在RegExp结尾使用$字符。

示例：

#匹配章节标题，其只含两个尾随数字
/^Chapter [1-9][0-9]{0,1}/
#匹配真正标题，而非包含交叉引用，则标题独占一行。
/^Chapter [1-9][0-9]{0,1}$/
#字符边界匹配，以下两个分别匹配Chapter的前三和后三个字符。
/\bCha/
/ter\b/
#非字符边界，匹配Chapter中的apt，而不匹配边界的aptitude中的apt
/\Bapt/

6、选择和反向引用

用圆括号()括起来所有选择项，相邻选择项用|分隔。如此有副作用，相关的匹配会被缓存，则用?:放在第一选项前来消除副作用。

?:、?=、?!属于非捕获元，而?=还表示正向预查，在任何开始匹配圆括号内正则表达式模式的位置来匹配搜索字符串。?!反向预查，在任何开始不匹配该正则表达式模式的位置来匹配搜索字符串。

正则表达式模式添加()会导致相关匹配存储到一个临时缓冲区，所有匹配子项都按照正则模式从左到右存储。1开始到99个子表达式缓存。缓冲区都可以用\n访问，其中n表示特定缓冲区的一位或两位十进制数。

反向引用，常用相邻单词的匹配，

Is is the cost of of gasoline going up up?
#如上句子包含重复单词，若不需要重复单词而定位到该句子
/\b([a-z]+) \1\b/gi
#如上捕获表达式，[a-z]+指定一个或多个字母。单词的第二个匹配项正好由括号表达式匹配。\1指定第一个字匹配项。\b保证了只检测整个单词。全局标记g和忽略大小写标记i

如上示例中使用到全局标记g和大小写忽略标记i

反向引用还可以分解资源指示符URI组件

http://www.google.com:80/android/index.html
#使用正则表达式
/(\w+):\/\/([^/:]+)(:\d*)?([^# ])/

说明：第一个括号用于获取http协议部分，在://之前。第二个表达式，捕获域名地址，匹配/和:之外的一个或多个字符。第三个捕获端口号，:后面的0个或多个只能重复一次该表达式，最后的括号补货地址路径/符号的页面信息。

三、元字符

下表包含元字符的完整列表以及他们在正则表达式上下文中的行为：

字符	描述
\	将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如，’n’ 匹配字符 “n”。’\n’ 匹配一个换行符。序列 ‘\’ 匹配 “\” 而 “(” 则匹配 “(“。
^	匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性，^ 也匹配 ‘\n’ 或 ‘\r’ 之后的位置。
$	匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性，$ 也匹配 ‘\n’ 或 ‘\r’ 之前的位置。
*	匹配前面的子表达式零次或多次。例如，zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。
+	匹配前面的子表达式一次或多次。例如，’zo+’ 能匹配 “zo” 以及 “zoo”，但不能匹配 “z”。+ 等价于 {1,}。
?	匹配前面的子表达式零次或一次。例如，”do(es)?” 可以匹配 “do” 或 “does” 中的”do” 。? 等价于 {0,1}。
{n}	n 是一个非负整数。匹配确定的 n 次。例如，’o{2}’ 不能匹配 “Bob” 中的 ‘o’，但是能匹配 “food” 中的两个 o。
{n,}	n 是一个非负整数。至少匹配n 次。例如，’o{2,}’ 不能匹配 “Bob” 中的 ‘o’，但能匹配 “foooood” 中的所有 o。’o{1,}’ 等价于 ‘o+’。’o{0,}’ 则等价于 ‘o*’。
{n,m}	m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。例如，”o{1,3}” 将匹配 “fooooood” 中的前三个 o。’o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。
?	当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 “oooo”，’o+?’ 将匹配单个 “o”，而 ‘o+’ 将匹配所有 ‘o’。
.	匹配除 “\n” 之外的任何单个字符。要匹配包括 ‘\n’ 在内的任何字符，请使用像”**(.
(pattern)	匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在JScript 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 ‘(’ 或 ‘)’。
(?:pattern)	匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 “或” 字符 (
(?=pattern)	正向预查，在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如，’Windows (?=95
(?!pattern)	负向预查，在任何不匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如’Windows (?!95
x	y
[xyz]	字符集合。匹配所包含的任意一个字符。例如， ‘[abc]’ 可以匹配 “plain” 中的 ‘a’。
[^xyz]	负值字符集合。匹配未包含的任意字符。例如， ‘[^abc]’ 可以匹配 “plain” 中的’p’、’l’、’i’、’n’。
[a-z]	字符范围。匹配指定范围内的任意字符。例如，’[a-z]’ 可以匹配 ‘a’ 到 ‘z’ 范围内的任意小写字母字符。
[^a-z]	负值字符范围。匹配任何不在指定范围内的任意字符。例如，’[^a-z]’ 可以匹配任何不在 ‘a’ 到 ‘z’ 范围内的任意字符。
\b	匹配一个单词边界，也就是指单词和空格间的位置。例如， ‘er\b’ 可以匹配”never” 中的 ‘er’，但不能匹配 “verb” 中的 ‘er’。
\B	匹配非单词边界。’er\B’ 能匹配 “verb” 中的 ‘er’，但不能匹配 “never” 中的 ‘er’。
\cx	匹配由 x 指明的控制字符。例如， \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 ‘c’ 字符。
\d	匹配一个数字字符。等价于 [0-9]。
\D	匹配一个非数字字符。等价于 [^0-9]。
\f	匹配一个换页符。等价于 \x0c 和 \cL。
\n	匹配一个换行符。等价于 \x0a 和 \cJ。
\r	匹配一个回车符。等价于 \x0d 和 \cM。
\s	匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S	匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t	匹配一个制表符。等价于 \x09 和 \cI。
\v	匹配一个垂直制表符。等价于 \x0b 和 \cK。
\w	匹配包括下划线的任何单词字符。等价于’[A-Za-z0-9_]’。
\W	匹配任何非单词字符。等价于 ‘[^A-Za-z0-9_]’。
\xn	匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，’\x41’ 匹配 “A”。’\x041’ 则等价于 ‘\x04’ & “1”。正则表达式中可以使用 ASCII 编码。
\num	匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，’(.)\1’ 匹配两个连续的相同字符。
\n	标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式，则 n 为向后引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。
\nm	标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式，则 nm 为向后引用。如果 \nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 \nm 将匹配八进制转义值 nm。
\nml	如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。
\un	匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， \u00A9 匹配版权符号 (?)。

四、运算符优先级

正则表达式从左到右进行计算，类似算术运算，遵循优先级：

运算符	描述
\	转义符
(),(?:),(?=),[]	圆括号和方括号
*,+,?,{n},{n,},{n,m}	限定符
^,$,\任何元字符、任何字符	定位点和序列(即：位置和顺序)
|	替换，”或”操作，字符具有高于替换运算符的优先级，使得”m|food”匹配”m”或”food”。若要匹配”mood”或”food”，请使用括号创建子表达式，从而产生”(m|f)ood”。

五、匹配规则

1、基本模式匹配

模式是正则表达式最基本的元素，它们是一组描述字符串特征的字符。可以很简单，有普通字符组成，也可以很复杂由特殊字符构成。

^once

如上模式，包含特殊字符^表示该模式只匹配以once开头的字符串。”once upon a time”匹配，”There once was a man from NewYork”则不匹配。

bucket$

$符号表示结尾，如上匹配”Who kept all of this cash in a bucket”，则不匹配”buckets”。如果^和$同时使用，则精准匹配。

^bucket$

如上只能匹配bucket这个单词，如果不适用特殊字符，仅用普通字符，如once，则匹配所有包含once的字符串。这里的字符是普通字符，有的特殊字符，如空格、制表符、标点等，可能就需要用转义符配合来匹配。

#匹配制表符，则不是匹配\t这两个字符的字面意思，若匹配\t本义，则用\\t转义后的表示法。
^\t

2、字符簇

用方括号构建字符簇，用于更为自由的使用正则表达式来实现我们需要的搜索与验证功能。

#元音字符簇
[AaEeIiOoUu]
#如上则匹配所有元音字符，但只能匹配一个。
[a-z]#匹配所有小写字母
[A-Z]#匹配所有大写字母
[a-zA-Z]#匹配所有字母
[0-9]#匹配所有数字
[0-9\.\-]#匹配所有数字，句号和减号
[ \f\r\t\n]#匹配所有空白字符
#字符簇可以结合^和$符号使用，做精准匹配。

^在方括号内，表示非的意思，用于排除，剔除

//如下，则表示第一个字符不能是数字
^[^0-9][0-9]$
[^a-z] //除了小写字母以外的所有字符 
[^\\\/\^] //除了(\)(/)(^)之外的所有字符 
[^\"\'] //除了双引号(")和单引号(')之外的所有字符

特殊字符.表示除了新行之外的所有字符。”.”模式，则可以匹配除了空串和仅有”新行“的之外字符串。

PHP正则表达式有一些内置的字符簇。

字符簇	描述
[[:alpha:]]	所有字母
[[:digit:]]	所有数字
[[:alnum:]]	所有字母和数字
[[:space:]]	所有空白符
[[:upper:]]	所有大写字母
[[:lower:]]	所有小写字母
[[:punct:]]	所有标点
[[:xdigit:]]	所有十六进制数字，相当于[0-9a-fA-F]

3、确定重复出现

匹配一个单词或一组数字就需要使用可重复的匹配方式，在字符或字符簇后用{}来确定重复出现的次数。

字符簇	描述
^[a-zA-Z_]$	所有字母和下划线
^[[:alpha:]]{3}$	所有的3个字母的单词
^a$	字母a
^a{4}$	aaaa
^a{2,4}$	aa,aaa或aaaa
^a{1,3}$	a,aa或aaa
^a{2,}$	包含多于两个a的字符串，都是a
^a{2,}	包含多于两个a的字符串，不要求都是a，但在开头是。
a{2,}	含有两个以上的a的字符串
\t{2}	两个制表符
.{2}	所有两个字符，不含新行

{}表示集合，内部的数字结构，确定结合的范围或者元素次数。

^[a-zA-Z0-9_]{1,}$ //所有包含一个以上的字母、数字或下划线的字符串 
^[1-9][0-9]*$ //所有的正整数 
^\-{0,1}[0-9]{1,}$ //所有的整数 
^[-]?[0-9]+\.?[0-9]+$ //所有的浮点数

如上最后一个较为复杂，-表示负号，可选。.表示小数点，通过^与$符号配合，限定数字的结构，浮点数。其实?代表的是{0,1}表示一个或者没有，所以用?代替了{}来限定范围个数。

//一样的
^\-?[0-9]{1,}\.?[0-9]{1,}$

而*与{0,}相等，表示0个或多个前面的元素。+与{1,}相等，表示一个或多个前面的内容，如此上面简化为：

^[a-zA-Z0-9_]+$ //所有包含一个以上的字母、数字或下划线的字符串 
^[0-9]+$ //所有的正整数 
^\-?[0-9]+$ //所有的整数 
^\-?[0-9]+\.?[0-9]*$ //所有的浮点数

六、示例

• 简单表达式

  
  #单字匹配
  
  /a/
  /7/
  /M/
  
  #多匹配的单字符
  
  /a7M/

  注意没有字符串联符号，只须在字符后直接写字符就可以。

• 字符匹配

  .匹配除\n之外的所有字符。

  
  #匹配a开头c结尾的三个字符
  
  /a.c/
  
  #要匹配文件名，带后缀的，那么.需要转义
  
  /filename\.txt/

• 中括号表达式

  方括号[]构建字符簇，但是注意两个特殊字符：

  • ]由于右方括号也是表达式的一个符号，若要匹配原本它自身，则放在字符簇的第一位。
  • \斜杠符号，要匹配自身，需要转义\\。

  
  #这两种写法等效。格式中空格是不可缺少的。但是指定范围的方式，需要字符的Unicode码大小顺序来写范围。
  
  /Chapter [12345]/
  /Chapter [1-5]/
  
  
  #连接符
  
  [\-]
  [-a-z]
  [a-z-]
  
  #开始值小于连字符，结束字符大于或等于连字符，
  
  [!--]
  [!-~]

  • ^在中括号内表示非，用于排除

• 替换和分组

  |符号用于替换。如下表示出现在行首或行尾，后面跟一个或两个数字的Chapter或Section：

  
  #需要用()来限定需要替换的范围，如果不加()，那么会将Chapter与|后面所有的等价位置，而不是和Section等价。
  
  /^(Chapter|Section) [1-9][0-9]{0,1}$/
  
  #如上搜索结果会被捕获并存储，有时候多个子表达式，会引起误会。需要清除缓存。
  
  /^(?:Chapter|Section) [1-9][0-9]{0,1}$/

• 其他示例

正则表达式	描述
/\b([a-z]+)\1\b/gi	一个单词连续出现的位置
/(\w+):\/\/([^/:]+)(:\d*)?([^#*])/	将一个URL解析为协议、域、端口、相对路径
/^(?:Chapter|Section)[1-9][0-9]{0,1}$/	定位章节位置
/[-a-z]/	a-z和-
/ter\b/	末尾边界符
/\Bapt/	非边界符
/Windows(?=95|98|NT)/	可匹配Windows95或Windows98或WindowsNT，当找到一个匹配后，从Windows后面开始进行下一次的检索匹配。
/^\s*$/	匹配空行
/\d{2}-\d{5}/	验证由两位数、一个连字符、5位数组成的ID号。
/<\s*(\S+)(\s[^>]*)?>[\s\S]*<\s*\/\1\s*>/	匹配HTML标记。

Note:各个编程语言中的正则表达式可能略微还有差异，如java中特殊元字符可能就需要\\b来代替\b符号，用双斜杠代替原有的单斜杠。使用中稍加注意。