kmp的算法理解

举例来说,有一个字符串"BBC ABCDAB ABCDABCDABDE",我想知道,里面是否包含另一个字符串"ABCDABD"?

许多算法可以完成这个任务,Knuth-Morris-Pratt算法(简称KMP)是最常用的之一。它以三个发明者命名,起头的那个K就是著名科学家Donald Knuth。

这种算法不太容易理解,网上有很多解释,但读起来都很费劲。直到读到Jake Boxer的文章,我才真正理解这种算法。下面,我用自己的语言,试图写一篇比较好懂的KMP算法解释。

在这里插入图片描述

首先,字符串"BBC ABCDAB ABCDABCDABDE"的第一个字符与搜索词"ABCDABD"的第一个字符,进行比较。因为B与A不匹配,所以搜索词后移一位。

在这里插入图片描述

因为B与A不匹配,搜索词再往后移。

在这里插入图片描述

就这样,直到字符串有一个字符,与搜索词的第一个字符相同为止。

在这里插入图片描述

接着比较字符串和搜索词的下一个字符,还是相同。

在这里插入图片描述

直到字符串有一个字符,与搜索词对应的字符不相同为止。

在这里插入图片描述

这时,最自然的反应是,将搜索词整个后移一位,再从头逐个比较。这样做虽然可行,但是效率很差,因为你要把"搜索位置"移到已经比较过的位置,重比一遍。

在这里插入图片描述

一个基本事实是,当空格与D不匹配时,你其实知道前面六个字符是"ABCDAB"。KMP算法的想法是,设法利用这个已知信息,不要把"搜索位置"移回已经比较过的位置,继续把它向后移,这样就提高了效率。

在这里插入图片描述

怎么做到这一点呢?可以针对搜索词,算出一张《部分匹配表》(Partial Match Table)。这张表是如何产生的,后面再介绍,这里只要会用就可以了。

在这里插入图片描述

已知空格与D不匹配时,前面六个字符"ABCDAB"是匹配的。查表可知,最后一个匹配字符B对应的"部分匹配值"为2,因此按照下面的公式算出向后移动的位数:

移动位数 = 已匹配的字符数 - 对应的部分匹配值

因为 6 - 2 等于4,所以将搜索词向后移动4位(相对于i来说j往后移动4位)。其实 就是j本身回溯到2的位置

在这里插入图片描述

因为空格与C不匹配,搜索词还要继续往后移。这时,已匹配的字符数为2(“AB”),对应的"部分匹配值"为0。所以,移动位数 = 2 - 0,结果为 2,于是将搜索词向后移2位。

在这里插入图片描述

这里就是j已经回溯到了0的位置 还不相同 那就只能i往后移动一位了 ,就是用 i=i+1 和 j 来比较了
因为空格与A不匹配,继续后移一位。

在这里插入图片描述

这里再把j回溯到2的位置 在下一步13那里刚好就能全部匹配上了
逐位比较,直到发现C与D不匹配。于是,移动位数 = 6 - 2,继续将搜索词向后移动4位。

在这里插入图片描述

逐位比较,直到搜索词的最后一位,发现完全匹配,于是搜索完成。如果还要继续搜索(即找出全部匹配),移动位数 = 7 - 0,再将搜索词向后移动7位,这里就不再重复了。

在这里插入图片描述

下面介绍《部分匹配表》是如何产生的。

首先,要了解两个概念:“前缀"和"后缀”。 "前缀"指除了最后一个字符以外,一个字符串的全部头部组合;"后缀"指除了第一个字符以外,一个字符串的全部尾部组合。

在这里插入图片描述

"部分匹配值"就是"前缀"和"后缀"的最长的共有元素的长度。以"ABCDABD"为例,

- "A"的前缀和后缀都为空集,共有元素的长度为0;

- "AB"的前缀为[A],后缀为[B],共有元素的长度为0;

- "ABC"的前缀为[A, AB],后缀为[BC, C],共有元素的长度0;

- "ABCD"的前缀为[A, AB, ABC],后缀为[BCD, CD, D],共有元素的长度为0;

- “ABCDA"的前缀为[A, AB, ABC, ABCD],后缀为[BCDA, CDA, DA, A],共有元素为"A”,长度为1;

- “ABCDAB"的前缀为[A, AB, ABC, ABCD, ABCDA],后缀为[BCDAB, CDAB, DAB, AB, B],共有元素为"AB”,长度为2;

- "ABCDABD"的前缀为[A, AB, ABC, ABCD, ABCDA, ABCDAB],后缀为[BCDABD, CDABD, DABD, ABD, BD, D],共有元素的长度为0。

在这里插入图片描述

"部分匹配"的实质是,有时候,字符串头部和尾部会有重复。比如,“ABCDAB"之中有两个"AB”,那么它的"部分匹配值"就是2("AB"的长度)。搜索词移动的时候,第一个"AB"向后移动4位(字符串长度-部分匹配值),就可以来到第二个"AB"的位置。

下面是更加详细的解释:

  1. 一般的解法
    KMP算法要解决的问题就是在字符串(也叫主串)中的模式(pattern)定位问题。说简单点就是我们平时常说的关键字搜索。模式串就是关键字(接下来称它为P),如果它在一个主串(接下来称为T)中出现,就返回它的具体位置,否则返回-1(常用手段)。

在这里插入图片描述

首先,对于这个问题有一个很直接的想法:从左到右一个个匹配,如果这个过程中有某个字符不匹配,就跳回去,将模式串向右移动一位。这有什么难的?

我们可以这样初始化:

在这里插入图片描述

之后我们只需要比较i指针指向的字符和j指针指向的字符是否一致。如果一致就都向后移动,如果不一致,如下图:

在这里插入图片描述

A和E不相等,那就把i指针移回第1位(假设下标从0开始),j移动到模式串的第0位,然后又重新开始这个步骤:

在这里插入图片描述

基于这个想法我们可以得到以下的程序:

1 /**
2
3 * 暴力破解法
4
5 * @param ts 主串
6
7 * @param ps 模式串
8
9 * @return 如果找到,返回在主串中第一个字符出现的下标,否则为-1
10
11 */
12
13 public static int bf(String ts, String ps) {
14
15 char[] t = ts.toCharArray();
16
17 char[] p = ps.toCharArray();
18
19 int i = 0; // 主串的位置
20
21 int j = 0; // 模式串的位置
22
23 while (i < t.length && j < p.length) {
24
25 if (t[i] == p[j]) { // 当两个字符相同,就比较下一个
26
27 i++;
28
29 j++;
30
31 } else {
32
33 i = i - j + 1; // 一旦不匹配,i后退
34
35 j = 0; // j归0
36
37 }
38
39 }
40
41 if (j == p.length) {
42
43 return i - j;
44
45 } else {
46
47 return -1;
48
49 }
50
51 }

上面的程序是没有问题的,但不够好!(想起我高中时候数字老师的一句话:我不能说你错,只能说你不对~~~)

注意:该算法程序很简单,非常好理解,请认真看完,因为后面的算法是在该算法基础上修订的。

2.如果人眼来优化的话,怎样处理
参考上面的算法,我们串中的位置指针i,j来说明,第一个位置下标以0开始,我们称为第0位。下面看看,如果是人为来寻找的话,肯定不会再把i移动回第1位,因为主串匹配失败的位置(i=3)前面除了第一个A之外再也没有A了,我们为什么能知道主串前面只有一个A?因为我们已经知道前面三个字符都是匹配的!(这很重要)。移动过去肯定也是不匹配的!有一个想法,i可以不动,我们只需要移动j即可,如下图:

在这里插入图片描述

上面的这种情况还是比较理想的情况,我们最多也就多比较了再次。但假如是在主串“SSSSSSSSSSSSSA”中查找“SSSSB”,比较到最后一个才知道不匹配,然后i回溯,这个的效率是显然是最低的。

大牛们是无法忍受“暴力破解”这种低效的手段的,于是他们三个研究出了KMP算法。其思想就如同我们上边所看到的一样:“利用已经部分匹配这个有效信息,保持i指针不回溯,通过修改j指针,让模式串尽量地移动到有效的位置。”

所以,整个KMP的重点就在于当某一个字符与主串不匹配时,我们应该知道j指针要移动到哪?

接下来我们自己来发现j的移动规律:

在这里插入图片描述

如图:C和D不匹配了,我们要把j移动到哪?显然是第1位。为什么?因为前面有一个A相同啊:

在这里插入图片描述

如下图也是一样的情况:

在这里插入图片描述

可以把j指针移动到第2位,因为前面有两个字母是一样的:

在这里插入图片描述

至此我们可以大概看出一点端倪,当匹配失败时,j要移动的下一个位置k。存在着这样的性质:最前面的k个字符和j之前的最后k个字符是一样的。

如果用数学公式来表示是这样的

P[0 ~ k-1] == P[j-k ~ j-1]

这个相当重要,如果觉得不好记的话,可以通过下图来理解:

在这里插入图片描述

弄明白了这个就应该可能明白为什么可以直接将j移动到k位置了。

因为:

当T[i] != P[j]时

有T[i-j ~ i-1] == P[0 ~ j-1]

由P[0 ~ k-1] == P[j-k ~ j-1]

必然:T[i-k ~ i-1] == P[0 ~ k-1]

原文说公式很无聊,但我觉得这样简单的公式就能清楚表达我们想说的含义,实在是幸甚。这个公式小学生都能看懂的,真的,我教三年级的娃就告诉她这个了。无非就是连续的序列的首尾下标和连续序列长度三者之间的关系。设首下标为head,尾下标为tail,序列长度为len,则公式为:len=tail-head+1;head=tail-len+1;我们head为0,则更简化了:len=tail+1;知道这个了,请一定耐着性子看懂,对我们的理解很有帮助。下面所有的公式都是这个相关的,请都要看懂。

这一段公式证明了我们为什么可以直接将j移动到k而无须再比较前面的k个字符。

补充说明:

该规律是KMP算法的关键,KMP算法是利用待匹配的子串自身的这种性质,来提高匹配速度。该性质在许多其他中版本的解释中还可以描述成:若子串的前缀集和后缀集中,重复的最长子串的长度为k,则下次匹配子串的j可以移动到第k位(下标为0为第0位)。我们将这个解释定义成最大重复子串解释。

这里面的前缀集表示除去最后一个字符后的前面的所有子串集合,同理后缀集指的的是除去第一个字符后的后面的子串组成的集合。举例说明如下:

在“aba”中,前缀集就是除掉最后一个字符’a’后的子串集合{a,ab},同理后缀集为除掉最前一个字符a后的子串集合{a,ba},那么两者最长的重复子串就是a,k=1;

在“ababa”中,前缀集是{a,ab,aba,abab},后缀集是{a,ba,aba,baba},二者最长重复子串是aba,k=3;

在“abcabcdabc”中,前缀集是{a,ab,abc,abca,abcab,abcabc,abcabcd,abcabcda,abcabcdab},后缀集是{c,bc,abc,dabc,cdabc,bcdabc,abcdabc,cabcdabc,bcabcdabc},二者最长重复的子串是“abc”,k=3;

下面我们用这个解释,来再一次手动求解上面的过程:

首先如下图所示:

在这里插入图片描述

如图:C和D不匹配了,我们要把j移动到哪?j位前面的子串是ABA,该子串的前缀集是{A,AB},后缀集是{A,BA},最大的重复子串是A,只有1个字符,所以j移到k即第1位。

在这里插入图片描述

再分析下图的情况:

在这里插入图片描述

在j位的时候,j前面的子串是ABCAB,前缀集是{A,AB,ABC,ABCA},后缀集是{B,AB,CAB,BCAB},最大重复子串是AB,个数是2个字符,因此j移到k即第2位。

在这里插入图片描述

上面说的,如果分解成计算机的步骤,则是如下的过程:

1)找出前缀pre,设为pre[0~m];

2)找出后缀post,设为post[0~n];

3)从前缀pre里,先以最大长度的s[0~m]为子串,即设k初始值为m,跟post[n-m+1~n]进行比较:

如果相同,则pre[0~m]则为最大重复子串,长度为m,则k=m;

   如果不相同,则k=k-1;缩小前缀的子串一个字符,在跟后缀的子串按照尾巴对齐,进行比较,是否相同。

如此下去,直到找到重复子串,或者k没找到。

改天,这里我写个代码说明,怎么找重复子串。

根据上面的求解过程,我们知道子串的j位前面,有j个字符,前后缀必然少掉首尾一个字符,因此重复子串的最大值为j-1,因此知道下一次的j指针最多移到第j-1位。

我为什么要补充上面这段说明,是因为该说明能便于我们理解下面的求解next数组的过程,上面实际也是指出了人工求解next[j]的过程。不知道next[j]为何物没关系,看到下面的定义以后,请到时再绕回来回味就行了。

3.求next数组
好,接下来就是重点了,怎么求这个(这些)k呢?因为在P的每一个位置都可能发生不匹配,也就是说我们要计算每一个位置j对应的k,所以用一个数组next来保存,next[j] = k,表示当T[i] != P[j]时,j指针的下一个位置。另一个非常有用且恒等的定义,因为下标从0开始的,k值实际是j位前的子串的最大重复子串的长度。请时刻牢记next数组的定义,下面的解释是死死地围绕着这个定义来解释的。

很多教材或博文在这个地方都是讲得比较含糊或是根本就一笔带过,甚至就是贴一段代码上来,为什么是这样求?怎么可以这样求?根本就没有说清楚。而这里恰恰是整个算法最关键的地方。

1 public static int[] getNext(String ps) {
2
3 char[] p = ps.toCharArray();
4
5 int[] next = new int[p.length];
6
7 next[0] = -1;
8
9 int j = 0;
10
11 int k = -1;
12
13 while (j < p.length - 1) {
14
15 if (k == -1 || p[j] == p[k]) {
16
17 next[++j] = ++k;
18
19 } else {
20
21 k = next[k];
22
23 }
24
25 }
26
27 return next;
28
29 }

这个版本的求next数组的算法应该是流传最广泛的,代码是很简洁。可是真的很让人摸不到头脑,它这样计算的依据到底是什么?

好,先把这个放一边,我们自己来推导思路,现在要始终记住一点,next[j]的值(也就是k)表示,当P[j] != T[i]时,j指针的下一步移动位置。

先来看第一个:当j为0时,如果这时候不匹配,怎么办?

在这里插入图片描述

像上图这种情况,j已经在最左边了,不可能再移动了,这时候要应该是i指针后移。所以在代码中才会有next[0] = -1;这个初始化。

如果是当j为1的时候呢?

在这里插入图片描述

显然,j指针一定是后移到0位置的。因为它前面也就只有这一个位置了~~~

下面这个是最重要的,请看如下图:

在这里插入图片描述
在这里插入图片描述

请仔细对比这两个图。

我们发现一个规律:

当P[k] == P[j]时,

有next[j+1] == next[j] + 1

其实这个是可以证明的:

因为在P[j]之前已经有P[0 ~ k-1] == p[j-k ~ j-1]。(next[j] == k)

这时候现有P[k] == P[j],我们是不是可以得到P[0 ~ k-1] + P[k] == p[j-k ~ j-1] + P[j]。

即:P[0 ~ k] == P[j-k ~ j],即next[j+1] == k + 1 == next[j] + 1。

原文说公式不好懂,看图容易。我觉得,公式实际挺简单的,结合图再把公式耐着性子看懂。实际上,该公式无非是用字母下标代表序列的起始段,描述了前缀和后缀重复相等的一段长度的序列罢了。

那如果P[k] != P[j]呢?比如下图所示:

在这里插入图片描述

像这种情况,如果你从代码上看应该是这一句:k = next[k];为什么是这样子?你看下面应该就明白了。

在这里插入图片描述

现在你应该知道为什么要k = next[k]了吧!像上边的例子,我们已经不可能找到[ A,B,A,B ]这个最长的后缀串了,但我们还是可能找到[ A,B ]、[ B ]这样的前缀串的。所以这个过程像不像在定位[ A,B,A,C ]这个串,当C和主串不一样了(也就是k位置不一样了),那当然是把指针移动到next[k]啦。

补充说明:看了上面这段的描述,你是否真的理解了P[k]!=P[j]时,是要使用k=next[k]的语句呢?我反正是没弄懂,我总觉得这段else的代码有点反人类,无法理解。实际上,我们的目的是用数学归纳法,来求解next数组的每个值。当前已经求到next[j],接着就应该求解next[j+1],此时就分两种情况,一种是:重复的字符串个数会增加,即所谓的p[k]=p[j],此时p[j+1]=k+1;即p[++j]=++k;另一种就是不能增加,也就是说P[k]!=P[j],即最大重复子串的长度不能增加了;按照next[j]的定义,就是当子串的第j位和主串的第i位不一致时,下一次,和主串i位进行比较的子串的j指针的位置。这个定义还是不太直观,主要是指脑子里不知道是怎样实际操作的,那你回头看看,我上面写的另一个最大重复子串长度的定义,next[j]的值k就是j位之前的子串中,前缀集和后缀集中的最大重复子串的长度。以这个定义我们来尝试在next[j]=k,p[k]!=p[j]时,手动求解next[j+1]的值。

请看下面的图:
在这里插入图片描述

当p[j]!=p[k]时我们要找的就是j+1位前面的子串,即p[0j]的最大重复子串长度。就是说找到一个最长的子串,假设最长重复子串长度为k1,即p[0k1-1],使得p[0k1-1]===p[j+1-k1j],此时k1即为所求的位置即next[j+1]=k1;因为p[k]!=p[j]了,因此k1最大等于k,即最大可能的重复子串只可能是p[0k-1]里的子串。此时我们人工求解的话,显然就是从p[0k-1]里求解最大重复子串。

我们按照第2节介绍的查找最长重复子串的方法:从p[0k-1]里,第一步,以0位为起始字符先挑选最大子串p[0k-1],然后拿着这个子串,尾巴对齐,即看p[k-1]和p[j]对齐,与子串p[j-k+1j]进行比较,见图中绿色线段;如果线段上每个值都相等了,则找到最大重复子串p[0k-1];如果不等,则继续缩小线段长度找下去。

下面重点来了,请注意:我们看,在查找最大匹配的过程中,将上面选择的待比较的子串分成两部分:最后一个端点为一部分,前面的一段为一部分;比如上面的第一个选取的最大比较子串的例子:前缀的p[0k-1]分成两段为p[0k-2]和p[k-1],和后缀的p[j-k+1~j-1]和p[j]分别比较,即p[0k-2]和p[j-k+1j-1]比较,p[k-1]和p[j]比较,见图中的红色线段和绿色圆点;通过这个例子我们知道,只要前面一段能重复且尽可能的长,那么加上最后一个端点这个重复子串也必将是最长的。我们继续分析,因为next[j]已经求出,即p[0k-1]===p[j-kj-1],我们可以把上面的第一段的比较进一步转换成,比较p[0k-2]和p[1k-1]子串了,见图中紫线箭头指示的漂移;看到没有,这个就是求k位前的子串p[0k-1]的最大重复子串,很显然不就是求next[k]嘛?!很明显p[0next[k]-1]就是我们要找的第一个候选最大的重复子串,这也说明了子串p[0k-2]就不可能是重复子串,也没有尝试比较的必要。因为根据next[j]的定义我们知道,next[k]就是要求的子串为p[0k-1]的最大重复子串的长度,最大,最大,最大,重要的事说三遍。我们是充分利用了前面k<j时,next[k]已经求出来的条件,减少了子串比较的次数(其实也不叫减少了,那些比较本来就是无效的);这解释了为什么把k=next[k]。此时,p[0next[k]-1]和p[j-next[k]j-1]子串已经恒等了,我们只要比较另外的一部分即两个端点,p[next[k]]和pj;如果这两者相等了,则重复子串的长度+1,next[j+1]=next[k]+1(k++即next[k]+1);如果不相等了,则说明倒数第二大的p[0~next[k]-1]都不行了,比这个重复子串小的最大的重复子串只能是k=next[next[k]]了,如此继续查找下去。因此比较的都是按序递减的最大重复子串,非常的有效,一点都没有多比较。找不到的话,k会被赋值为-1。

这个算法神奇难解之处就在k=next[k]这一处的理解上,网上解析的非常之多,有的就是例证,举例子按代码走流程,走出结果了,跟肉眼看的一致,就认为解释了为什么k=next[k];很少有看到解释的非常清楚的,或者有,但我没有仔细和耐心看下去。我一般扫一眼,就大概知道这个解析是否能说的通。仔细想了三天,搞的千转百折,山重水复,一头雾气缭绕的。搞懂以后又觉得确实简单,但是绕人,烧脑。

有了next数组之后就一切好办了,我们可以动手写KMP算法了:

1 public static int KMP(String ts, String ps) {
2
3 char[] t = ts.toCharArray();
4
5 char[] p = ps.toCharArray();
6
7 int i = 0; // 主串的位置
8
9 int j = 0; // 模式串的位置
10
11 int[] next = getNext(ps);
12
13 while (i < t.length && j < p.length) {
14
15 if (j == -1 || t[i] == p[j]) { // 当j为-1时,要移动的是i,当然j也要归0
16
17 i++;
18
19 j++;
20
21 } else {
22
23 // i不需要回溯了
24
25 // i = i - j + 1;
26
27 j = next[j]; // j回到指定位置
28
29 }
30
31 }
32
33 if (j == p.length) {
34
35 return i - j;
36
37 } else {
38
39 return -1;
40
41 }
42
43 }

和暴力破解相比,就改动了4个地方。其中最主要的一点就是,i不需要回溯了。

4.next数组求解算法优化
最后,来看一下上边的算法存在的缺陷。来看第一个例子:

在这里插入图片描述

显然,当我们上边的算法得到的next数组应该是[ -1,0,0,1 ]

所以下一步我们应该是把j移动到第1个元素咯:

在这里插入图片描述

不难发现,这一步是完全没有意义的。因为后面的B已经不匹配了,那前面的B也一定是不匹配的,同样的情况其实还发生在第2个元素A上。

显然,发生问题的原因在于P[j] == P[next[j]]。

补充说明:这部分作者说的也比较清楚了。实际上对下面的代码if(p[++j]==p[++k]),我们注意是先自加,再使用。所以我们按照j不变的情况下解释下一步流程就是p[j+1]==p[next[j]+1];此时比较将无意义,因为p[next[k]+1]位就已经表示,就是k+1位和主串的i不相等,要移动的j下标为next[K+1],因为p[k+1]又等于p[j+1],也就是说比较j+1位和主串的i位是否相等时,也将要j移到next[K+1]位去;

所以我们也只需要添加一个判断条件即可:

public static int[] getNext(String ps) {

char[] p = ps.toCharArray();

int[] next = new int[p.length];

next[0] = -1;

int j = 0;

int k = -1;

while (j < p.length - 1) {

   if (k == -1 || p[j] == p[k]) {

       if (p[++j] == p[++k]) { // 当两个字符相等时要跳过

          next[j] = next[k];

       } else {

          next[j] = k;

       }

   } else {

       k = next[k];

   }

}

return next;

}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值