在搞验证码识别的时候需要比较字符代码的相似度用到“编辑距离算法”,关于原理和python实现做个记录。
据百度百科介绍:
编辑距离,又称Levenshtein距离(也叫做Edit Distance),是指两个字串之间,由一个转成另一个所需的最少编辑操作次数,如果它们的距离越大,说明它们越是不同。许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。
例如将kitten一字转成sitting:
sitten (k→s)
sittin (e→i)
sitting (→g)
俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。因此也叫Levenshtein Distance。
例如
- 如果str1="ivan",str2="ivan",那么经过计算后等于 0。没有经过转换。相似度=1-0/Math.Max(str1.length,str2.length)=1
- 如果str1="ivan1",str2="ivan2",那么经过计算后等于1。str1的"1"转换"2",转换了一个字符,所以距离是1,相似度=1-1/Math.Max(str1.length,str2.length)=0.8
应用
DNA分析
拼字检查
语音辨识
抄袭侦测
感谢大石头在评论中给出一个很好的关于此方法应用的连接 补充在此:
小规模的字符串近似搜索,需求类似于搜索引擎中输入关键字,出现类似的结果列表,文章连接:【算法】字符串近似搜索
算法过程
- str1或str2的长度为0返回另一个字符串的长度。 if(str1.length==0) return str2.length; if(str2.length==0) return str1.length;
- 初始化(n+1)*(m+1)的矩阵d,并让第一行和列的值从0开始增长。
- 扫描两字符串(n*m级的),如果:str1[i] == str2[j],用temp记录它,为0。否则temp记为1。然后在矩阵d[i,j]赋于d[i-1,j]+1 、d[i,j-1]+1、d[i-1,j-1]+temp三者的最小值。
- 扫描完后,返回矩阵的最后一个值d[n][m]即是它们的距离。
计算相似度公式:1-它们的距离/两个字符串长度的最大值。
为了直观表现,我将两个字符串分别写到行和列中,实际计算中不需要。我们用字符串“ivan1”和“ivan2”举例来看看矩阵中值的状况:
1、第一行和第一列的值从0开始增长
|
| i | v | a | n | 1 |
| 0 | 1 | 2 | 3 | 4 | 5 |
i | 1 |
|
|
|
|
|
v | 2 |
|
|
|
|
|
a | 3 |
|
|
|
|
|
n | 4 |
|
|
|
|
|
2 | 5 |
|
|
|
|
|
2、i列值的产生 Matrix[i - 1, j] + 1 ; Matrix[i, j - 1] + 1 ; Matrix[i - 1, j - 1] + t
|
| i | v | a | n | 1 |
| 0+t=0 | 1+1=2 | 2 | 3 | 4 | 5 |
i | 1+1=2 | 取三者最小值=0 |
|
|
|
|
v | 2 | 依次类推:1 |
|
|
|
|
a | 3 | 2 |
|
|
|
|
n | 4 | 3 |
|
|
|
|
2 | 5 | 4 |
|
|
|
|
3、V列值的产生
|
| i | v | a | n | 1 |
| 0 | 1 | 2 |
|
|
|
i | 1 | 0 | 1 |
|
|
|
v | 2 | 1 | 0 |
|
|
|
a | 3 | 2 | 1 |
|
|
|
n | 4 | 3 | 2 |
|
|
|
2 | 5 | 4 | 3 |
|
|
|
依次类推直到矩阵全部生成
|
| i | v | a | n | 1 |
| 0 | 1 | 2 | 3 | 4 | 5 |
i | 1 | 0 | 1 | 2 | 3 | 4 |
v | 2 | 1 | 0 | 1 | 2 | 3 |
a | 3 | 2 | 1 | 0 | 1 | 2 |
n | 4 | 3 | 2 | 1 | 0 | 1 |
2 | 5 | 4 | 3 | 2 | 1 | 1 |
最后得到它们的距离=1
相似度:1-1/Math.Max(“ivan1”.length,“ivan2”.length) =0.8
#!/usr/bin/env python
# -*- coding: utf-8 -*-
def ed(s1, s2):
'''
>>> ed('eeba', 'abac')
3
>>> ed('abc', 'cba')
2
>>> ed('cbc', 'eba')
2
>>> ed('recoginze', 'recognize')
1
>>> ed('sailn', 'failing')
3
>>> ed('ab', 'ba')
1
'''
# 动态规划求编辑距离
# param s1: 字符串1
# param s2: 字符串2
len1 = len(s1)
len2 = len(s2)
# 初始化矩阵
matrix = [[i+j for j in range(len2 + 1)] for i in range(len1 + 1)]
for row in range(len1):
for col in range(len2):
comp = [matrix[row+1][col]+1, matrix[row][col+1]+1]
if s1[row] == s2[col]:
comp.append(matrix[row][col])
else:
comp.append(matrix[row][col]+1)
# 对相邻字符交换位置的处理判断
if row > 0 and col > 0:
if s1[row] == s2[col-1] and s1[row-1] == s2[col]:
comp.append(matrix[row-1][col-1]+1)
matrix[row+1][col+1] = min(comp)
return matrix[len1][len2]
重要的是这段代码:
?
1 2 3 | if row > 0 and col > 0: if s1[row] == s2[col-1] and s1[row-1] == s2[col]: comp.append(matrix[row-1][col-1]+1) |
同学们要用其他语言实现,只需要实现以上判断,来进行操作(4)。
注意到ed函数的docstring******现了类似命令行的句子,这是为了方便进行doctest测试。要测试全部数据,只需加上以下几句话:
?
1 2 3 | if __name__ == '__main__': import doctest doctest.testmod() |