正则基础之——NFA引擎匹配原理

NFA 引擎匹配原理

1        为什么要了解引擎匹配原理

一个个音符杂乱无章的组合在一起，弹奏出的或许就是噪音，同样的音符经过作曲家的手，就可以谱出非常动听的乐曲，一个演奏者同样可以照着乐谱奏出动听的乐曲，但他/ 她或许不知道该如何去改变音符的组合，使得乐曲更动听。

作为正则的使用者也一样，不懂正则引擎原理的情况下，同样可以写出满足需求的正则，但是不知道原理，却很难写出高效且没有隐患的正则。所以对于经常使用正则，或是有兴趣深入学习正则的人，还是有必要了解一下正则引擎的匹配原理的。

2        正则表达式引擎

正则引擎大体上可分为不同的两类： DFA 和 NFA ，而 NFA 又基本上可以分为传统型 NFA 和 POSIX NFA 。

DFA Deterministic finite automaton 确定型有穷自动机

NFA Non-deterministic finite automaton 　非确定型有穷自动机

Traditional NFA

POSIX NFA

DFA 引擎因为不需要回溯，所以匹配快速，但不支持捕获组，所以也就不支持反向引用和 $number 这种引用方式，目前使用 DFA 引擎的语言和工具主要有 awk 、 egrep  和 lex 。

POSIX NFA 主要指符合 POSIX 标准的 NFA 引擎，它的特点主要是提供 longest-leftmost 匹配，也就是在找到最左侧最长匹配之前，它将继续回溯。同 DFA 一样，非贪婪模式或者说忽略优先量词对于 POSIX NFA 同样是没有意义的。

大多数语言和工具使用的是传统型的 NFA 引擎，它有一些 DFA 不支持的特性：

　　捕获组、反向引用和 $number 引用方式；

　　环视 (Lookaround ， (?<= … ) 、 (?<! … ) 、 (?= … ) 、 (?! … )) ，或者有的有文章叫做预搜索；

　　忽略优化量词（ ?? 、 *? 、 +? 、 {m,n}? 、 {m,}? ），或者有的文章叫做非贪婪模式；

　　占有优先量词（ ?+ 、 *+ 、 ++ 、 {m,n}+ 、 {m,}+ ，目前仅 Java 和 PCRE 支持），固化分组 (?>…) 。

引擎间的区别不是本文的重点，仅做简要的介绍，有兴趣的可参考相关文献。

3        预备知识

3.1      字符串组成

 

对于字符串 “abc ” 而言，包括三个字符和四个位置。

3.2      占有字符和零宽度

正则表达式匹配过程中，如果子表达式匹配到的是字符内容，而非位置，并被保存到最终的匹配结果中，那么就认为这个子表达式是占有字符的；如果子表达式匹配的仅仅是位置，或者匹配的内容并不保存到最终的匹配结果中，那么就认为这个子表达式是零宽度的。

占有字符是互斥的，零宽度是非互斥的。也就是一个字符，同一时间只能由一个子表达式匹配，而一个位置，却可以同时由多个零宽度的子表达式匹配。

3.3      控制权和传动

正则的匹配过程，通常情况下都是由一个子表达式（可能为一个普通字符、元字符或元字符序列组成）取得控制权，从字符串的某一位置开始尝试匹配，一个子表达式开始尝试匹配的位置，是从前一子表达匹配成功的结束位置开始的。如正则表达式：

( 子表达式一)( 子表达式二)

假设( 子表达式一) 为零宽度表达式，由于它匹配开始和结束的位置是同一个，如位置0 ，那么( 子表达式二) 是从位置0 开始尝试匹配的。

假设( 子表达式一) 为占有字符的表达式，由于它匹配开始和结束的位置不是同一个，如匹配成功开始于位置0 ，结束于位置2 ，那么( 子表达式二) 是从位置2 开始尝试匹配的。

而对于整个表达式来说，通常是由字符串位置0 开始尝试匹配的。如果在位置0 开始的尝试，匹配到字符串某一位置时整个表达式匹配失败，那么引擎会使正则向前传动，整个表达式从位置1 开始重新尝试匹配，依此类推，直到报告匹配成功或尝试到最后一个位置后报告匹配失败。

4        正则表达式简单匹本过程

4.1      基础匹配过程

 

 

源字符串： abc

正则表达式： abc

匹配过程：

首先由字符“ a ” 取得控制权，从位置0 开始匹配，由“a ” 来匹配“a ” ，匹配成功，控制权交给字符“ b ” ；由于“a ” 已被“a ” 匹配，所以“ b ” 从位置1 开始尝试匹配，由“b ” 来匹配“b ” ，匹配成功，控制权交给“ c ” ；由“c ” 来匹配“c ” ，匹配成功。

此时正则表达式匹配完成，报告匹配成功。匹配结果为“abc ” ，开始位置为0 ，结束位置为3 。

 

4.2      含有匹配优先量词的匹配过程——匹配成功（一）

 

源字符串： abc

正则表达式： ab?c

量词“? ”属于匹配优先量词，在可匹配可不匹配时，会先选择尝试匹配，只有这种选择会使整个表达式无法匹配成功时，才会尝试让出匹配到的内容。这里的量词“? ”是用来修饰字符“b ”的，所以“b? ”是一个整体。

匹配过程：

首先由字符“ a ” 取得控制权，从位置0 开始匹配，由“a ” 来匹配“a ” ，匹配成功，控制权交给字符“ b? ” ；由于“? ”是匹配优先量词，所以会先尝试进行匹配，由“ b? ” 来匹配“b ” ，匹配成功，控制权交给“ c ” ，同时记录一个备选状态；由“c ” 来匹配“c ” ，匹配成功。记录的备选状态丢弃。

此时正则表达式匹配完成，报告匹配成功。匹配结果为“abc ” ，开始位置为0 ，结束位置为3 。

4.3      含有匹配优先量词的匹配过程——匹配成功（二）

 

源字符串： ac

正则表达式： ab?c

匹配过程：

首先由字符“ a ” 取得控制权，从位置0 开始匹配，由“a ” 来匹配“a ” ，匹配成功，控制权交给字符“ b? ” ；先尝试进行匹配，由“ b? ” 来匹配“c ” ，同时记录一个备选状态，匹配失败，此时进行回溯，找到备选状态，“b? ”忽略匹配，让出控制权，把控制权交给“c ”；由“c ” 来匹配“c ” ，匹配成功。

此时正则表达式匹配完成，报告匹配成功。匹配结果为“ac ” ，开始位置为0 ，结束位置为2 。其中“b? ”不匹配任何内容。

4.4      含有匹配优先量词的匹配过程——匹配失败

 

源字符串： abd

正则表达式： ab?c

匹配过程：

首先由字符“ a ” 取得控制权，从位置0 开始匹配，由“a ” 来匹配“a ” ，匹配成功，控制权交给字符“ b? ” ；先尝试进行匹配，由“ b? ” 来匹配“b ” ，同时记录一个备选状态，匹配成功，控制权交给“ c ” ；由“ c ” 来匹配“d ” ，匹配失败，此时进行回溯，找到记录的备选状态，“b? ”忽略匹配，即“b? ”不匹配“b ”，让出控制权，把控制权交给“c ”；由“c ” 来匹配“b ” ，匹配失败。此时第一轮匹配尝试失败。

正则引擎使正则向前传动，由位置1 开始尝试匹配，由“a ” 来匹配“b ” ，匹配失败，没有备选状态，第二轮匹配尝试失败。

继续向前传动，直到在位置3 尝试匹配失败，匹配结束。此时报告整个表达式匹配失败。

4.5      含有忽略优先量词的匹配过程——匹配成功

 

源字符串： abc

正则表达式： ab??c

量词“?? ”属于忽略优先量词，在可匹配可不匹配时，会先选择不匹配，只有这种选择会使整个表达式无法匹配成功时，才会尝试进行匹配。这里的量词“?? ”是用来修饰字符“b ”的，所以“b?? ”是一个整体。

匹配过程：

首先由字符“ a ” 取得控制权，从位置0 开始匹配，由“a ” 来匹配“a ” ，匹配成功，控制权交给字符“ b?? ” ；先尝试忽略匹配，即“ b?? ” 不进行匹配，同时记录一个备选状态，控制权交给“ c ” ；由“ c ” 来匹配“b ” ，匹配失败，此时进行回溯，找到记录的备选状态，“b?? ”尝试匹配，即“b?? ”来匹配“b ”，匹配成功，把控制权交给“c ”；由“c ” 来匹配“c ” ，匹配成功。

此时正则表达式匹配完成，报告匹配成功。匹配结果为“abc ” ，开始位置为0 ，结束位置为3 。其中“b?? ”匹配字符“b ”。

4.6      零宽度匹配过程

 

源字符串： a12

正则表达式： ^ (?=[a-z]) [a-z0-9]+ $

元字符“^ ”和“$ ”匹配的只是位置，顺序环视“(?=[a-z]) ”只进行匹配，并不占有字符，也不将匹配的内容保存到最终的匹配结果，所以都是零宽度的。

这个正则的意义就是匹配由字母或数字组成的，第一个字符是字母的字符串。

匹配过程：

首先由元字符“ ^ ” 取得控制权，从位置0 开始匹配，“ ^ ” 匹配的就是开始位置“ 位置0 ” ，匹配成功，控制权交给顺序环视“(?=[a-z]) ”；

“(?=[a-z]) ”要求它所在位置右侧必须是字母才能匹配成功，零宽度的子表达式之间是不互斥的，即同一个位置可以同时由多个零宽度子表达式匹配，所以它也是从位置0 尝试进行匹配，位置0 的右侧是字符“a ”，符合要求，匹配成功，控制权交给“ [a-z0-9]+ ”；

因为“(?=[a-z]) ”只进行匹配，并不将匹配到的内容保存到最后结果，并且“(?=[a-z]) ”匹配成功的位置是位置0 ，所以“ [a-z0-9]+ ”也是从位置0 开始尝试匹配的，“ [a-z0-9]+ ”首先尝试匹配“a ”，匹配成功，继续尝试匹配，可以成功匹配接下来的“1 ”和“2 ”，此时已经匹配到位置3 ，位置3 的右侧已没有字符，这时会把控制权交给“ $ ”；

元字符“ $ ”从位置3 开始尝试匹配，它匹配的是结束位置，也就是“ 位置3 ” ，匹配成功。

此时正则表达式匹配完成，报告匹配成功。匹配结果为“a12 ” ，开始位置为0 ，结束位置为3 。其中“^ ”匹配位置0 ，“(?=[a-z]) ”匹配位置0 ，“ [a-z0-9]+ ”匹配字符串“a12 ”，“ $ ”匹配位置3 。