JAVA中文比较问题的分析和解决

原创 2003年01月07日 15:51:00

JAVA中文比较问题的分析解决<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" />

游晶(yousp@yeah.net

 

 Java的中文问题由来已久,前不久笔者需要做内存中的中文比较排序,对字符串进行GBK或者GB2312编码以后,使用String.compareTo方法仍然不能得到正确结果。因此,怀着怀疑的态度,对JDK中String类的源代码做了一翻探究。(作者使用JDK为1.3.1版本)

 

以下是String.java中compareTo的源代码,请注意其中的注释:

 

 

public class String

{

      

    public int compareTo(String anotherString) {

       int len1 = count;

       int len2 = anotherString.count;

 

 

       //n为两个字符串长度的最小者

       int n = Math.min(len1, len2);

      

       //获取字符数组

       char v1[] = value;

       char v2[] = anotherString.value;

      

       //取偏依位置

    /** The offset is the first index of the storage that is used. */

       //offset 是第一个存储索引

 

       int i = offset;

       int j = anotherString.offset;

 

       //如果i == j

       //这里可能是判断取同一内存中两个字符串的情景。。。

       // A   <--   <----

       // B    s1      |

       // C   <--      |

       // D            s2

       // E            |

       // F            |

       // G   <----------

       // 可能这种情况 i = j

       if (i == j) {

           int k = i;

           int lim = n + i;

             

           while (k < lim)

              {

                     char c1 = v1[k];

                     char c2 = v2[k];

                    

                     if (c1 != c2) file://直到找到一个不相等的字符返回c1 - c2

                            return c1 - c2;

                     k++;

           }

       } else {

           while (n-- != 0) file://直到两个字符串长度记数为0

              {

                     char c1 = v1[i++]; file://分别取字符

                     char c2 = v2[j++];

                     if (c1 != c2) {  //发现不相等立即返回c1 - c2;

                            return c1 - c2;

                     }

           }

       }

       return len1 - len2;

//最后这里可能出现的情况是: 两个字符串比较完之后还没有得到结果。相等的情况

    }

}//end of class String

 

 

 

为什么Java在做汉字的CompareTo时比较会有问题呢通过对compareTo源代码的分析发现关键在于JDKcompareTo实现是直接使用Char来进行比较的

 

            char c1 = v1[k];

            char c2 = v2[k];

 

可是当Java使用GB2312编码时,一个对汉字所获取到的Char值却是不规则的,即一个汉字在Java中作为一个char来处理(双字节字符)时,将这样的双字节字符进行强制转换成int类型时,所得到的不是包含了汉字编码顺序的中文内码。可以看一下一组测试数据可以看到其中奥妙:

 

字符

Char值

Byte[]值

按Byte[]合成的值

25105

[50:46]

[-5046]

29233

[80:82]

[-8082]

21271

[79:79]

[-7979]

20140

[66:87]

[-6687]

22825

[52:20]

[-5220]

23433

[80:78]

[-8078]

38376

[61:59]

[-6159]

A

65

[-65]

[65]

B

66

[-66]

[66]

C

67

[-67]

[67]

D

68

[-68]

[68]

 

按照中文顺序:“我”字应该在“爱”字后面,因此理论上来讲"我"字的Char值应该比“爱"字的char值要大。可是不知道为什么Java的汉字char(两个byte)->int类型的转换会发生很大偏差。而失去了汉字原本在GBK规范当中,按内码排列好的顺序。但从一个汉字拆分成2个字节的byte[]时,所得到的值并没有打乱GBK编码规定的顺序,因此得到解决问题的思路:将String进行GB2312编码后取得某个汉字获取其Char值时,将汉字拆分成2个字节byte[]再进行计算,从而得到正确的内码。

 

因此我自己写了下面这样几个函数,基本上解决了汉字比较的问题:

    函数包括三个,你可以随意放置到任何类当中作为辅助函数使用(Private Helper)。

 

n         public int compare(String s1, String s2) :主要工作是为比较做一些前期的编码工作可以说是系统的一个外壳。

n         public int chineseCompareTo(String s1, String s2):该函数则是中文字符串比较主体,其内部实现了比较的最基本逻辑,和JDK的compareTo所使用的逻辑是一样的。调用接口也一样。

n         public static int getCharCode(String s):该函数则负责将一个以字符串形式存在的字符转换成为int编码,儿不损失其位置信息。注意输入通常是:“我”或者“A”,如果输入更长的字符串,则改函数获得的是第一个字符的值。

 

 

private static String __ENCODE__ = "GBK"; file://一定要是GBK

private static String __SERVER_ENCODE__ = "GB2312"; file://服务器上的缺省编码

/*

比较两字符串

*/

       public int compare(String s1, String s2)

       {

              String m_s1 = null, m_s2 = null;

              try

              {

                     //先将两字符串编码成GBK

                     m_s1 = new String ( s1.getBytes(__SERVER_ENCODE__), __ENCODE__);

                     m_s2 = new String ( s2.getBytes(__SERVER_ENCODE__), __ENCODE__);

              }

              catch( Exception ex)

              {

                     return s1.compareTo(s2);

              }

              int res = chineseCompareTo(m_s1, m_s2);

 

              System.out.println("比较" + s1 + " | " + s2 + "==== Result: " + res);

              return res;

       }

 

//获取一个汉字/字母的Char

       public static int getCharCode(String s)

       {

              if (s==null && s.equals(“”)) return -1; file://保护代码

byte [] b = s.getBytes();

              int value = 0;

              //保证取第一个字符(汉字或者英文)

              for (int i = 0; i < b.length && i <= 2; i ++)

              {

                     value = value * 100 + b[i];

              }

              return value;

       }

 

//比较两个字符串

       public int chineseCompareTo(String s1, String s2)

       {

              int len1 = s1.length();

              int len2 = s2.length();

 

              int n = Math.min(len1, len2);

 

              for (int i = 0; i < n; i ++)

              {

                     int s1_code = getCharCode(s1.charAt(i) + "");

                     int s2_code = getCharCode(s2.charAt(i) + "");

                     if (s1_code != s2_code) return s1_code - s2_code;

              }

              return len1 - len2;

       }

 

 

可见,对系统源代码的解剖,能让我们在迷惑之余同样有机会窥探系统内部运作的奥妙。不过让人非常费解的是,Java内部的某些类书写风格非常不好,同时存在一些Bug。不过这也许是笔者个人感受。偶有所获,愿与大家共同分享,其中疏漏之处望不吝赐教。

JAVA中文乱码问题的产生和建议解决办法

开发java应用出现乱码是很常见的,毕竟现在unicode的使用还不是很广泛,在使用gb2312(包含了gbk简体,big5繁体)的系统中要正确  实现中文的display和数据库的存储是最基本的要...
  • LVGAOYANH
  • LVGAOYANH
  • 2015年08月02日 12:08
  • 4339

java中文乱码解决之道(五)-----java是如何编码解码的

在上篇博客中LZ阐述了java各个渠道转码的过程,阐述了java在运行过程中那些步骤在进行转码,在这些转码过程中如果一处出现问题就很有可能会产生乱码!下面LZ就讲述java在转码过程中是如何来进行编码...
  • chenssy
  • chenssy
  • 2015年01月20日 09:29
  • 66889

NIO 中文乱码问题的解决代码实现

之前在网上查询了很多关于解决NIO中文乱码的问题,仁者见仁智者见智,不过就找到的几种方法实现都太繁琐了,稍微研究了下NIO源码,以下是我自己的一种实现,偷懒用最简单的代码去实现是我的习惯! Demo:...
  • foreversilent
  • foreversilent
  • 2016年11月15日 15:46
  • 2071

Java Web中常见乱码问题的分析与解决

Java Web中常见乱码问题的分析与解决 get请求参数乱码 post请求参数乱码 同时处理Get和Post两种提交方式的编码问题 服务器发送给浏览器的乱码问题 在jsp页面中,中文显示乱码...
  • u013905744
  • u013905744
  • 2016年09月07日 09:24
  • 1743

java中文乱码解决之道(八)-----解决URL中文乱码问题

我们主要通过两种形式提交向服务器发送请求:URL、表单。而表单形式一般都不会出现乱码问题,乱码问题主要是在URL上面。通过前面几篇博客的介绍我们知道URL向服务器发送请求编码过程实在是实在太混乱了。不...
  • chenssy
  • chenssy
  • 2015年01月21日 09:13
  • 26901

javaWEB中前后台中文乱码问题解决方法

中文问题一直是很多人难以解决的问题。特别是从前台传到后台之后,都不知道问题出在哪里了。现在给出几种解决的方法。 方法一: tomcat的自带编码是ISO-8859-1的格式,是不兼容中文的编码的。所以...
  • yangxin_blog
  • yangxin_blog
  • 2015年11月06日 15:54
  • 2195

关于Get,Post请求中文乱码问题有效解决方法

对于做Java WEB项目同学来说,中文乱码问题是一个经常遇到而又非常头痛的问题,而最容易出现乱码的环节就是在浏览器向服务器发送请求的过程,至于出现乱码的原因不是本文的关注的重点,想了解的朋友可以参考...
  • wh_forever
  • wh_forever
  • 2015年09月07日 19:00
  • 1638

网络爬虫中编码的正确处理与乱码的解决策略

最近一个月一直在对nutch1.6版进行中等层次的二次开发,本来是想重新做一个自写的爬虫系统,鉴于前基做过微博爬虫系统,感觉再重写一个完整的爬虫费时、费力还没太大的含金量,故而直接基于nutch开发。...
  • erliang20088
  • erliang20088
  • 2015年05月17日 16:56
  • 995

Java自定义比较器实现中文排序

compareTo 方法  compareTo()是两个字符串对象比较大小,返回一个整数值,如果调用字符串对象大,返回正整数,反之,返回负整数。相等则返回0。compareTo()是两个字符串对象按A...
  • z769184640
  • z769184640
  • 2016年02月28日 21:17
  • 1135

Servelt中文乱码问题处理

1、request与response乱码  在Servlet中设置编码方式,如下: request.setCharacterEncoding("utf-8"); response.setCon...
  • Hchengbowen
  • Hchengbowen
  • 2016年07月20日 22:30
  • 306
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:JAVA中文比较问题的分析和解决
举报原因:
原因补充:

(最多只允许输入30个字)