计算字符串相似度算法——Levenshtein

0.这个算法实现起来很简单

1.百度百科介绍:

Levenshtein 距离,又称编辑距离,指的是两个字符串之间,由一个转换成另一个所需的最少编辑操作次数。

许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。

编辑距离的算法是首先由俄国科学家Levenshtein提出的,故又叫Levenshtein Distance。

2.用途

模糊查询

3.实现过程

a.首先是有两个字符串,这里写一个简单的 abc和abe

b.将字符串想象成下面的结构。

A处 是一个标记,为了方便讲解,不是这个表的内容。

 

  abc a b c
abe 0 1 2 3
a 1 A处    
b 2      
e 3      

c.来计算A处 出得值

它的值取决于:左边的1、上边的1、左上角的0.

按照Levenshtein distance的意思:

上面的值和左面的值都要求加1,这样得到1+1=2。

A处 由于是两个a相同,左上角的值加0.这样得到0+0=0。

这是后有三个值,左边的计算后为2,上边的计算后为2,左上角的计算为0,所以A处 取他们里面最小的0.

d.于是表成为下面的样子

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 B处    
e 3      

B处 会同样得到三个值,左边计算后为3,上边计算后为1,在B处 由于对应的字符为a、b,不相等,所以左上角应该在当前值的基础上加1,这样得到1+1=2,在(3,1,2)中选出最小的为B处的值。

e.于是表就更新了

 

  abc a b c
abe 0 1 2 3
a 1 0    
b 2 1    
e 3 C处    

C处 计算后:上面的值为2,左边的值为4,左上角的:a和e不相同,所以加1,即2+1,左上角的为3。

在(2,4,3)中取最小的为C处 的值。

f.于是依次推得到

    a b c
  0 1 2 3
a 1 A处 0 D处 1 G处 2
b 2 B处 1 E处 0 H处 1
e 3 C处 2 F处 1 I处 1

 

I处: 表示abc 和abe 有1个需要编辑的操作。这个是需要计算出来的。

同时,也获得一些额外的信息。

A处: 表示a      和a      需要有0个操作。字符串一样

B处: 表示ab    和a      需要有1个操作。

C处: 表示abe  和a      需要有2个操作。

D处: 表示a      和ab    需要有1个操作。

E处: 表示ab    和ab    需要有0个操作。字符串一样

F处: 表示abe  和ab    需要有1个操作。

G处: 表示a      和abc   需要有2个操作。

H处: 表示ab    和abc    需要有1个操作。

I处: 表示abe   和abc    需要有1个操作。

g.计算相似度

先取两个字符串长度的最大值maxLen,用1-(需要操作数除maxLen),得到相似度。

例如abc 和abe 一个操作,长度为3,所以相似度为1-1/3=0.666。

4.代码实现

直接能运行, 复制过去就行。

Java代码   收藏代码
  1. package code;  
  2.   
  3. /** 
  4.  * @className:MyLevenshtein.java 
  5.  * @classDescription:Levenshtein Distance 算法实现 
  6.  * 可以使用的地方:DNA分析   拼字检查   语音辨识   抄袭侦测 
  7.  * @author:donghai.wan 
  8.  * @createTime:2012-1-12 
  9.  */  
  10. public class MyLevenshtein {  
  11.   
  12.     public static void main(String[] args) {  
  13.         //要比较的两个字符串  
  14.         String str1 = "今天星期四";  
  15.         String str2 = "今天是星期五";  
  16.         levenshtein(str1,str2);  
  17.     }  
  18.   
  19.     /** 
  20.      *   DNA分析   拼字检查   语音辨识   抄袭侦测 
  21.      *  
  22.      * @createTime 2012-1-12 
  23.      */  
  24.     public static void levenshtein(String str1,String str2) {  
  25.         //计算两个字符串的长度。  
  26.         int len1 = str1.length();  
  27.         int len2 = str2.length();  
  28.         //建立上面说的数组,比字符长度大一个空间  
  29.         int[][] dif = new int[len1 + 1][len2 + 1];  
  30.         //赋初值,步骤B。  
  31.         for (int a = 0; a <= len1; a++) {  
  32.             dif[a][0] = a;  
  33.         }  
  34.         for (int a = 0; a <= len2; a++) {  
  35.             dif[0][a] = a;  
  36.         }  
  37.         //计算两个字符是否一样,计算左上的值  
  38.         int temp;  
  39.         for (int i = 1; i <= len1; i++) {  
  40.             for (int j = 1; j <= len2; j++) {  
  41.                 if (str1.charAt(i - 1) == str2.charAt(j - 1)) {  
  42.                     temp = 0;  
  43.                 } else {  
  44.                     temp = 1;  
  45.                 }  
  46.                 //取三个值中最小的  
  47.                 dif[i][j] = min(dif[i - 1][j - 1] + temp, dif[i][j - 1] + 1,  
  48.                         dif[i - 1][j] + 1);  
  49.             }  
  50.         }  
  51.         System.out.println("字符串\""+str1+"\"与\""+str2+"\"的比较");  
  52.         //取数组右下角的值,同样不同位置代表不同字符串的比较  
  53.         System.out.println("差异步骤:"+dif[len1][len2]);  
  54.         //计算相似度  
  55.         float similarity =1 - (float) dif[len1][len2] / Math.max(str1.length(), str2.length());  
  56.         System.out.println("相似度:"+similarity);  
  57.     }  
  58.   
  59.     //得到最小值  
  60.     private static int min(int... is) {  
  61.         int min = Integer.MAX_VALUE;  
  62.         for (int i : is) {  
  63.             if (min > i) {  
  64.                 min = i;  
  65.             }  
  66.         }  
  67.         return min;  
  68.     }  
  69.   
  70. }  

5.猜测原理

为什么这样就能算出相似度了?

首先在连续相等的字符就可以考虑到

红色是取值的顺序。

1.今天周一    天周一

 

   
  0 1 2 3
1 1 2 3
2 1 2 3
3 2 1 3
4 3 3 1

实现是去掉“今”,一步完成。

2.听说马上就要放假了 你听说要放假了

 

   
  0 1 2 3 4 5 6 7
1 1 1 2 3 4 5 6
2 2 2 1 2 3 4 5
3 3 3 2 2 3 4 5
4 4 4 3 3 3 4 5
5 5 5 4 4 4 4 5
6 6 6 5 4 5 5 5
7 7 7 6 5 4 5 6
8 8 8 7 6 5 4 6
9 9 9 8 7 6 6 4

这两个字符串是:

去掉“你”,加上“马上就”,总共四步操作。

3.还是没弄懂

6.结束

算法优化空间很大。

最后也没弄懂为什么这样算能算出相似度。

 

 

 

7 
0 
分享到:   
评论
11 楼  xu-ch 2013-07-20  
今天面试,遇到这题,求出了相似度,面试官问我算法原理是什么,悲催的我没有答上来
10 楼  flywangfei 2013-06-08  
你是创新工场的么?
9 楼  beike 2013-03-30  
mark
8 楼  yangxiutian 2012-01-13  
算法、数据结构 很重要 可是没掌握啊
7 楼  wdhdmx 2012-01-13  
wangchen.ily 写道
g.计算相似度
先取两个字符串长度的最大值maxLen,用需要操作数除maxLen,得到相似度。
例如abc 和abe 一个操作,长度为3,所以相似度为1/2=0.666

有问题吧:
例如abc和abe maxLen=3 需要操作数是1
应该是1/3=0.333


谢谢提出来,大意了。我已经改回来了。
6 楼  wangchen.ily 2012-01-13  
g.计算相似度
先取两个字符串长度的最大值maxLen,用需要操作数除maxLen,得到相似度。
例如abc 和abe 一个操作,长度为3,所以相似度为1/2=0.666

有问题吧:
例如abc和abe maxLen=3 需要操作数是1
应该是1/3=0.333

5 楼  wwsnowfoxww 2012-01-13  
没有看懂什么意思
4 楼  wdhdmx 2012-01-13  
我写错了,不是相似度,是 “最少编辑操作次数”。 为什么用这个方法能算出最少编辑次数,
相似度这个我理解了,已经。
3 楼  ansjsun 2012-01-13  
Java代码   收藏代码
  1. System.out.println("字符串\""+str1+"\"与\""+str2+"\"的比较");     
  2.         //取数组右下角的值,同样不同位置代表不同字符串的比较     
  3.         System.out.println("差异步骤:"+dif[len1][len2]);     
  4.         //计算相似度     
  5.         float similarity =1 - (float) dif[len1][len2] / Math.max(str1.length(), str2.length());     



我觉得吧...首先他是一个参考前面过程的算法...当到了最后就是dif[len1][len2]的时候..就是最终的差异值....这个差一值越大肯定就越不一样 

然后根据..差异值比上文本长度.. 被1减去 ..所以越趋近于1..说明文本越相似...
2 楼  liuningbo 2012-01-13  
 尴尬·
1 楼  ansjsun 2012-01-13  
 最后一句我彻底凌乱了
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Levenshtein Distance算法是一种常见的字符串相似度算法,也被称为编辑距离算法。其主要思想是通过计算两个字符串之间的编辑距离来确定它们的相似程度。 编辑距离指的是将一个字符串转换成另一个字符串所需的最少操作次数,其中每次操作可以是插入、删除或替换一个字符。例如,将字符串“kitten”转换成字符串“sitting”需要进行3次操作,即将“k”替换为“s”,将“e”替换为“i”,将“n”替换为“g”。 Levenshtein Distance算法的实现一般使用动态规划的方法,通过填充一个二维矩阵来计算两个字符串之间的编辑距离。具体实现过程可以参考以下伪代码: ``` function LevenshteinDistance(s1, s2): m = length(s1) n = length(s2) d = new matrix(m+1, n+1) for i from 0 to m: d[i, 0] = i for j from 0 to n: d[0, j] = j for j from 1 to n: for i from 1 to m: if s1[i] == s2[j]: cost = 0 else: cost = 1 d[i, j] = min(d[i-1, j]+1, d[i, j-1]+1, d[i-1, j-1]+cost) return d[m, n] ``` 在以上代码中,变量s1和s2分别表示两个待比较的字符串,m和n分别表示它们的长度,矩阵d用于存储编辑距离的计算结果。首先,将矩阵d的第一行和第一列分别初始化为0到n和0到m的整数。然后,对于每个(i, j)位置,如果s1[i]等于s2[j],则将cost设为0,否则设为1。最后,根据递推公式d[i, j] = min(d[i-1, j]+1, d[i, j-1]+1, d[i-1, j-1]+cost)来填充矩阵d,并返回d[m, n]作为编辑距离的结果。 Levenshtein Distance算法的时间复杂度为O(m*n),其中m和n分别为两个字符串的长度。在实际应用中,该算法可用于拼写检查、数据去重等场景。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值