String.getBytes()方法中的中文编码问题

原创 2004年09月17日 16:35:00
String.getBytes()方法中的中文编码问题
srx81 原创  (参与分:240,专家分:2040)   发表:2003-8-21 下午3:05   版本:1.0   阅读:5371

String.getBytes()的问题

String的getBytes()方法是得到一个字串的字节数组,这是众所周知的。但特别要注意的是,本方法将返回该操作系统默认的编码格式的字节数组。如果你在使用这个方法时不考虑到这一点,你会发现在一个平台上运行良好的系统,放到另外一台机器后会产生意想不到的问题。比如下面的程序,
class TestCharset 
{

    public static void main(String[] args) 
    {
        new TestCharset().execute();
    }

    private void execute() {
        String s = "Hello!你好!";
        
        byte[] bytes = s.getBytes();

        System.out.println("bytes lenght is:" + bytes.length);


    }

}

在一个中文WindowsXP系统下,运行时,结果为:
bytes lenght is:12

但是如果放到了一个英文的UNIX环境下运行:
$ java TestCharset
bytes lenght is:9

如果你的程序依赖于该结果,将在后续操作中引起问题。为什么在一个系统中结果为12,而在另外一个却变成了9了呢?上面已经提到了,该方法是和平台(编码)相关的。在中文操作系统中,getBytes方法返回的是一个GBK或者GB2312的中文编码的字节数组,其中中文字符,各占两个字节。而在英文平台中,一般的默认编码是“ISO-8859-1”,每个字符都只取一个字节(而不管是否非拉丁字符)。

Java中的编码支持


Java是支持多国编码的,在Java中,字符都是以Unicode进行存储的,比如,“你”字的Unicode编码是“4f60”,我们可以通过下面的实验代码来验证:
class TestCharset 
{

    public static void main(String[] args) 
    {
        char c = '你';
        int i = c;
        System.out.println(c);
        System.out.println(i);
    }

}

不管你在任何平台上执行,都会有相同的输出:

----------------- output ------------------

20320

20320就是Unicode “4f60”的整数值。其实,你可以反编译上面的类,可以发现在生成的.class文件中字符“你”(或者其它任何中文字串)本身就是以Unicode编码进行存储的:
        char c = '/u4F60';
        ... ...

即使你知道了编码的编码格式,比如:
javac -encoding GBK TestCharset.java
编译后生成的.class文件中仍然是以Unicode格式存储中文字符或字符串的。

使用String.getBytes(String charset)方法


所以,为了避免这种问题,我建议大家都在编码中使用String.getBytes(String charset)方法。下面我们将从字串分别提取ISO-8859-1和GBK两种编码格式的字节数组,看看会有什么结果:
class TestCharset 
{

    public static void main(String[] args) 
    {
        new TestCharset().execute();
    }

    private void execute() {
        String s = "Hello!你好!";
        
        byte[] bytesISO8859 =null;
        byte[] bytesGBK = null;

        try
        {
            bytesISO8859 = s.getBytes("iso-8859-1");
            bytesGBK = s.getBytes("GBK");
        }
        catch (java.io.UnsupportedEncodingException e)
        {
            e.printStackTrace();
        }

        System.out.println("-------------- /n 8859 bytes:");
        System.out.println("bytes is:     " + arrayToString(bytesISO8859));
        System.out.println("hex format is:" + encodeHex(bytesISO8859));
        System.out.println();

        System.out.println("-------------- /n GBK bytes:");
        System.out.println("bytes is:     " + arrayToString(bytesGBK));
        System.out.println("hex format is:" + encodeHex(bytesGBK));

    }

    public static final String encodeHex (byte[] bytes) {
        StringBuffer buff = new StringBuffer(bytes.length * 2);
        String b;
        for (int i=0; i<bytes.length ; i++)
        {
            b = Integer.toHexString(bytes[i]); 
            // byte是两个字节的,而上面的Integer.toHexString会把字节扩展为4个字节
            buff.append(b.length() > 2 ? b.substring(6,8) : b); 
            buff.append(" ");
        }
        return buff.toString();
    }

    public static final String arrayToString (byte[] bytes) {
        StringBuffer buff = new StringBuffer();
        for (int i=0; i<bytes.length ; i++)
        {
            buff.append(bytes[i] + " ");
        }
        return buff.toString();
    }

}
执行上面程序将打印出:
--------------
 8859 bytes:
bytes is:     72 101 108 108 111 33 63 63 63
hex format is:48 65 6c 6c 6f 21 3f 3f 3f

--------------
 GBK bytes:
bytes is:     72 101 108 108 111 33 -60 -29 -70 -61 -93 -95
hex format is:48 65 6c 6c 6f 21 c4 e3 ba c3 a3 a1

可见,在s中提取的8859-1格式的字节数组长度为9,中文字符都变成了“63”,ASCII码为63的是“?”,一些国外的程序在国内中文环境下运行时, 经常出现乱码,上面布满了“?”,就是因为编码没有进行正确处理的结果。而提取的GBK编码的字节数组中正确得到了中文字符的GBK编码。字符“你”“好”“!”的GBK编码分别是:“c4e3”“bac3”“a3a1”。得到了正确的以GBK编码的字节数组,以后需要还原为中文字串时,可以使用下面方法:
new String(byte[] bytes, String charset)

String.getBytes()方法中的中文编码问题

String的getBytes()方法是得到一个系统默认的编码格式的字节数组 getBytes("utf-8")  得到一个UTF-8格式的字节数组 把String转换成bytes,各种编码转换成的...
  • abcd1f2
  • abcd1f2
  • 2014年12月26日 23:37
  • 640

String.getBytes()方法中的中的编码问题

在Java中,String的getBytes()方法是得到一个操作系统默认的编码格式的字节数组。这表示在不同的操作系统下,返回的东西不一样! String.getBytes(String dec...
  • qqahanson
  • qqahanson
  • 2014年10月27日 14:56
  • 330

在Java中,String的getBytes()方法是得到一个操作系统默认的编码格式的字节数组

在Java中,String的getBytes()方法是得到一个操作系统默认的编码格式的字节数组。这个表示在不通OS下,返回的东西不一样!  String.getBytes(String de...
  • chaozi2009
  • chaozi2009
  • 2016年03月19日 11:29
  • 4861

网站开发进阶(三十六)String.getBytes()方法中的中文编码问题

String.getBytes()方法中的中文编码问题      String的getBytes()方法是得到一个系统默认的编码格式的字节数组。      getBytes("utf-8")得到一个U...
  • sunhuaqiang1
  • sunhuaqiang1
  • 2016年06月12日 16:46
  • 43571

使用过滤器(Filter)解决请求参数中文乱码问题(复杂方式)

前述:      在写这篇笔记之前,对笔记中的设计模式进行介绍:      本篇笔记中将要使用到的设计模式是:装饰(包装)设计模式           (1)装饰(包装)设计模式口诀...
  • Molipc
  • Molipc
  • 2017年11月15日 12:45
  • 150

深入分析 Java 中的中文编码问题

转载出处:http://www.ibm.com/developerworks/cn/java/j-lo-chinesecoding/ 编码问题一直困扰着开发人员,尤其在 Java 中更加明显...
  • woaigaolaoshi
  • woaigaolaoshi
  • 2016年03月13日 18:15
  • 1415

python解决中文编码问题

python解决中文编码问题 摘要:因为这段时间做python的中文数据梳理和爬虫,中文数据处理花费了我大量的时间,暂时不做这一块所以留下一些记录。为了快速完成文章,这里对很多文章进行了引用和摘...
  • xz1308579340
  • xz1308579340
  • 2017年04月19日 16:41
  • 849

支付宝接口编码不规范问题

支付宝平台接口使用了不规范的方式,导致flask不能正常处理的问题解决。
  • Raptor
  • Raptor
  • 2016年09月14日 00:07
  • 1723

中文编码问题-终端和vim

终端中文显示乱码 有网友说修改 /var/lib/locales/supported.d/locale 和 /etc/default/locale 就可以了但是如果多人共用一台机器没有root权限...
  • u010187139
  • u010187139
  • 2015年12月29日 14:44
  • 1384

Python for Windows 中文编码问题汇总

0. 关于python编码的基本常识 1. 设置.py文件的编码格式 2. 字符串文字量的类型 3. 关于print输出中文字符串 4. Windows的文件/文件夹的中文名字 5. Windows读...
  • u013163707
  • u013163707
  • 2016年09月17日 01:13
  • 2270
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:String.getBytes()方法中的中文编码问题
举报原因:
原因补充:

(最多只允许输入30个字)