求编辑距离

最新推荐文章于 2024-05-01 07:47:19 发布

tjxy_20081

最新推荐文章于 2024-05-01 07:47:19 发布

阅读量118

点赞数

什么是编辑距离？

编辑距离，又称Levenshtein距离（也叫做Edit Distance），是指两个字串之间，由一个转成另一个所需的最少编辑操作次数，如果它们的距离越大，说明它们越是不同。许可的编辑操作包括将一个字符替换成另一个字符，插入一个字符，删除一个字符。

　　例如将kitten一字转成sitting：

　　sitten （k→s）

　　sittin （e→i）

　　sitting （→g）

　　俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。因此也叫Levenshtein Distance。

举个例子，我在写一篇英文文章，然后发现自己有一个单词sunny写错了，写成了snowy。现在我要把这个单词改正过来，那么可以怎么改呢？事实上改的方法很多，第一种是

s-nowy  
sunn-y

这是什么意思呢？可以这样理解：当上一行的字符为连字符-时，意思是“如果要把上面的字符串尽量修改成下面的字符串的样子，那么就要这里插入下面的字符”。例如连字符对应的字符是u，那么意思就是要在suowy这个单词的s和u之间插入字符u以一步步地向sunny这个单词变化；当上下两行的字符不一致时，意思就是上面的字符串如果想要变成马猴烧酒……啊，不，是变成下面的字符串，那么就要把这个位置的字符替换成下面的那一个；至于上面一行是正常字符而下面一行是连字符的情况，则表示要把上面一行的那个字符删除掉——其实可以反过来理解，如果上下行对调，那么在那个位置就相应地变成插入，所以反过来就是删除。第二中变换方式是

-snow-y  
sun--ny

比较上面的两种变换方式，显然，第一种需要做的修改比较少，是3次，而第二种需要做的修改则是5次，并且再也找不到比3次修改更小的次数了。这个最少的修改次数，就是两个字符串之间的编辑距离。显然，交换两个字符串的变换方向，编辑距离是不会变的。

基于编辑距离，我们可以计算两个字符串的相似度。计算相似度公式：1-它们的距离/两个字符串长度的最大值.

如果str1="ivan"，str2="ivan"，那么经过计算后等于 0。没有经过转换。相似度=1-0/Math.Max(str1.length,str2.length)=1
如果str1="ivan1"，str2="ivan2"，那么经过计算后等于1。str1的"1"转换"2"，转换了一个字符，所以距离是1，相似度=1-1/Math.Max(str1.length,str2.length)=0.8

算法：

1）使用递归方法

假设两个串A和B，如果它们的第一个字符是相同的，只要计算A[2,...,n]和B[2,...,m]的距离就可以了。若两个串的第一个字符不相同，则可以：

a.删除A的第一个字符或者插入A的第一个字符到B开头，然后将A[2,...,n]和B[1,...,m]变成相同字符串。

b.删除B的第一个字符或者插入B的第一个字符到A开头，然后将A[1,...,n]和B[2,...,m]变成相同字符串

2）使用动态规划

在大学算法设计相关课程上，想必大家都已经学习过使用动态规划算法解最小编辑距离，形式化定义如下：

应用

最小编辑距离通常作为一种相似度计算函数被用于多种实际应用中，详细如下：（特别的，对于中文自然语言处理，一般以词为基本处理单元）

拼写纠错（Spell Correction）：又拼写检查（Spell Checker），将每个词与词典中的词条比较，英文单词往往需要做词干提取等规范化处理，如果一个词在词典中不存在，就被认为是一个错误，然后试图提示N个最可能要输入的词——拼写建议。常用的提示单词的算法就是列出词典中与原词具有最小编辑距离的词条。

这里肯定有人有疑问：对每个不在词典中的词（假如长度为len）都与词典中的词条计算最小编辑距离，时间复杂度是不是太高了？的确，所以一般需要加一些剪枝策略，如：

因为一般拼写检查应用只需要给出Top-N的纠正建议即可（N一般取10），那么我们可以从词典中按照长度依次为len、len-1、len+1、len-2、len-3、...的词条比较；
限定拼写建议词条与当前词条的最小编辑距离不能大于某个阈值；
如果最小编辑距离为1的候选词条超过N后，终止处理；
缓存常见的拼写错误和建议，提高性能。

DNA分析：基因学的一个主要主题就是比较 DNA 序列并尝试找出两个序列的公共部分。如果两个 DNA 序列有类似的公共子序列，那么这些两个序列很可能是同源的。在比对两个序列时，不仅要考虑完全匹配的字符，还要考虑一个序列中的空格或间隙（或者，相反地，要考虑另一个序列中的插入部分）和不匹配，这两个方面都可能意味着突变（mutation）。在序列比对中，需要找到最优的比对（最优比对大致是指要将匹配的数量最大化，将空格和不匹配的数量最小化）。如果要更正式些，可以确定一个分数，为匹配的字符添加分数、为空格和不匹配的字符减去分数。

全局序列比对尝试找到两个完整的序列 S1和 S2之间的最佳比对。以下面两个 DNA 序列为例：

S1= GCCCTAGCG

S2= GCGCAATG

如果为每个匹配字符一分，一个空格扣两分，一个不匹配字符扣一分，那么下面的比对就是全局最优比对：

S1'= GCCCTAGCG

S2'= GCGC-AATG

连字符（-）代表空格。在 S2'中有五个匹配字符，一个空格（或者反过来说，在 S1'中有一个插入项），有三个不匹配字符。这样得到的分数是 (5 * 1) + (1 * -2) + (3 * -1) = 0，这是能够实现的最佳结果。

使用局部序列比对，不必对两个完整的序列进行比对，可以在每个序列中使用某些部分来获得最大得分。使用同样的序列 S1和 S2，以及同样的得分方案，可以得到以下局部最优比对 S1''和 S2''：

S1 = GCCCTAGCG

S1''= GCG

S2''= GCG

S2 = GCGCAATG

这个局部比对的得分是 (3 * 1) + (0 * -2) + (0 * -1) = 3。

命名实体抽取（Named Entity Extraction）：由于实体的命名往往没有规律，如品牌名，且可能存在多种变形、拼写形式，如“IBM”和“IBM Inc.”，这样导致基于词典完全匹配的命名实体识别方法召回率较低，为此，我们可以使用编辑距离由完全匹配泛化到模糊匹配，先抽取实体名候选词。

具体的，可以将候选文本串与词典中的每个实体名进行编辑距离计算，当发现文本中的某一字符串的编辑距离值小于给定阈值时，将其作为实体名候选词；获取实体名候选词后，根据所处上下文使用启发式规则或者分类的方法判定候选词是否的确为实体名。

实体共指（Entity Coreference）：通过计算任意两个实体名之间的最小编辑距离判定是否存在共指关系？如“IBM”和“IBM Inc.”, "Stanford President JohnHennessy "和"Stanford University President John Hennessy"。
机器翻译（Machine Translation）：

识别平行网页对：由于平行网页通常有相同或类似的界面结构，因此平行网页在HTML结构上应该有很大近似度。首先将网页的HTML标签抽取出来，连接成一个字符串，然后用最小编辑距离考察两个字符串的近似度。实际中，此策略一般与文档长度比例、句对齐翻译模型等方法结合使用，以识别最终的平行网页对。
自动评测：首先存储机器翻译原文和不同质量级别的多个参考译文，评测时把自动翻译的译文对应到与其编辑距离最小的参考译文上，间接估算自动译文的质量，如下图所示：