怎样使用字符集和编码

原创 2003年01月13日 09:18:00
 

当你在编写一个程序时,有时不得不把字符写进文件里去。如下面的:<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" />

 import java.io.*;    

    public class Encode1 {

        public static void main(String args[]) 

            throws IOException {

                Writer writer = new FileWriter("out");

                writer.write("testing");

                writer.close();

        }

    }

当你在solaris 系列的操作系统或windows 平台运行时,文本文件out 只有7字节。这就是你预期的结果。

 但这里还是有一个重要的问题。Java 字符是16位,这就是说每个字符是2 个字节长。程序Encode1把7个字符写进了文件out里了。并且结果是一个7字节长的文件。你可能要问:其它字符到那儿去了。难道这里把14个字节写进了文件中了吗。

 这个问题归结为“字符编码”了。这个问题是怎样把在java中的16位字符映射成8位字节保存到文件中去。事实上,这里有一非常好的机制,而不是简单的放大、缩小8位或16位,因为在全世界几百种字符编码在使用。这就是说:这种特殊的8位字符序列需要因不同平台、及场所而重新组合成java字符串。

Java系统是通过你因不同的需要而选择特殊编码配置来解决这个问题的。同时它也提供一默认的字符编码基于你的平台和环境。像上面的实例,java系统支持默认的字符编码进行i/o操作。另外,你也可以指定其它的编码(字符集)。这些字符编码是一字符串来描述,比如:”utf-8”。也可以是java.nio.charset.Charset 类的一个实例。Charset 是一抽象类,所以事实上这个实例是Charset 类的子类。

Encode1例子中,解决编码问题的一种方法是把字符分解成两个字节写进文件中去。竟管这个文件可能没有字节散布在这里面。另外一种办法是把java字符中的高位抛弃。这种办法在上面的例子可以用,但你尝试写一希腊、日语字符串就不会成功了。

在这个例子中实际是用第二种方法来处理的(它的高位字节抛弃)。如果你在Encode1例子中把输出行:writer.write("testing"); 改成:writer.write("testing/u1234"); 这输出行的总长将是8字节而不是7字节了。竟管如此,这统一编码字符/u1234 还是不能以一个字节显示出来。

在前面讨论中的“抛弃“有两种意思。如果java字符的高位是0,就像字符是以7位ASCII表示,那么“抛弃”的意思是舍去高位字节。另外一种意思是在某种的环境下你不可能用映射使用一特殊的字符。在这种可能情况下字符(2个字节)可能被一默认的置换字节所取代。就像上面例子中的/u1234 由0x3f 取代了。

下面让我们来看看怎样使用字符集、在字符与字节之间映射。一个基本的问题是:那些字符集是可用呢?下面这个程序演示了一个列表:

import java.nio.charset.*;

    import java.util.*;

    

    public class Encode2 {

        public static void main(String args[]) {

            Map availcs = Charset.availableCharsets();

            Set keys = availcs.keySet();

            for (Iterator iter = 

                keys.iterator();iter.hasNext();) {

                    System.out.println(iter.next());

                }

        }

    }

它的输出结果是如下:(没有*号字符)

     ISO-8859-1*

    ISO-8859-15

    US-ASCII*

    UTF-16*

    UTF-16BE*

    UTF-16LE*

    UTF-8*

    windows-1252

     号符在这儿用以区别那些支持所java平台字符。

另一基本的问题是:在你自己的系统里的默认的字符集是什么呢?下面这个程序显示了这个默认的字符集的名字:

    import java.io.*;

    import java.nio.charset.*;

    

    public class Encode3 {

        public static void main(String args[]) 

            throws IOException {

                FileWriter filewriter = 

                    new FileWriter("out");

                String encname = 

                    filewriter.getEncoding();

                filewriter.close();

                System.out.println(

                    "default charset is: " + encname);

    

                /*

                Charset charset1 = 

                    Charset.forName(encname);

                Charset charset2 = 

                    Charset.forName("windows-1252");

                if (charset1.equals(charset2)) {

                    System.out.println(

                        "Cp1252/windows-1252 equal");

                }

                else {

                    System.out.println(

                        "Cp1252/windows-1252 unequal");

            }

            */

        }

    }

当你运行这处程序时,你看到的结果是如下:

 default charset is: Cp1252

注意这个字符集并不在每个java实现所需支持的字符集一览表中。因为默认的字符集并不是在必需的字符中的一种。这个例子也有一些注释性的逻辑说明演示了你可以决定所选的字符是否为默认的字符。它表明”windows-1252” 与 “Cp1252”字符集事情上是同一个字符集。这个逻辑也显示出因为”Cp1252”并不是所必须支持的,所以这种逻辑对你来说也没有太大意义。

 你可能看到还有一种方式可以得到默认字符集的名字:通过查找系统属性”file.encoding”。这个方法可以工作,但这个属性并不保证在所有的java平台上都已经定义了。

 在Encode3 程序中,Charset.forName 用于以一串字符名(“US-ASCII)找到字符集对象。

这里另一例子正是用这一技术的:

import java.nio.charset.*;

    

    public class Encode4 {

        public static void main(String args[]) {

            if (args.length != 1) {

                System.out.println(

                    "missing charset name");

                System.exit(1);

            }

    

            String charsetname = args[0];

            Charset charset;

    

            try {

                charset = Charset.forName(charsetname);

                System.out.println(

                    "charset lookup successful");

            }

            catch (UnsupportedCharsetException exc) {

                System.out.println(

                    "unknown charset: " + charsetname);

            }

        }

    }

如果你用如下方式运行:

$ java Encode4 XYZ

它将检查”XYZ”是否支持在本系统中字符集,如果支持,就获得这个字符对象。

知道这些所有的背景后,你怎样使用这些字符集呢。这里将重复使用第一个例子Encode1了。

import java.io.*;

    

    public class Encode5 {

        public static void main(String args[]) 

            throws IOException {

                FileOutputStream fileoutstream =

                    new FileOutputStream("out");

                Writer writer = new OutputStreamWriter(

                    fileoutstream, "UTF-8");

                writer.write("testing");

                writer.close();

        }

    }

Ecode1程序看起来并不简单易用。它使用了基于平台和环境的默认字符集。比较这两个例子。Encode5 程序使用了标准的字符集(UTF-8)。和很早提及的说法,在Encode1 程序中所使用的默认字符集通过抛弃高位字符的字节。使用 UTF-8字符集可以解决这一问题。如果你把输出行:

   Writer.write(“testing ”);

 改成:writer.write(“testing/u1234”);

它仍然可以正常运行。字符集 UTF-8 在处理7位ASCII 的方式时有其非常大的优势。

这里有另外一个例子。它表明你怎样把java字符串转化成字节向量、特定的编码。

 import java.io.*;

    

    public class Encode6 {

        public static void main(String args[])

        throws UnsupportedEncodingException {

            String str = "testing";

    

            byte bytevec1[] = str.getBytes();

            byte bytevec2[] = str.getBytes("UTF-16");

    

            System.out.println("bytevec1 length = " +

                bytevec1.length);

            System.out.println("bytevec2 length = " +

                bytevec2.length);

        }

    }

在你的系统中输出可能是这样的:

 bytevec1 length = 7

bytevec2 length = 16

第一个转化是运用默认的字符集。第二个转化是运用UTF-16 字符集。

下面还有最后一个关于字符编码要讨论的事。

你可能还会想知道这个特定的映射或编码的运算法则是什么? 在这里有一些从DataOuputStream.writeUTF.摘录下来的编码。它被用来把字符向量映射成字节向量。

 for (int i = 0; i < strlen; i++) {

        c = charr[i];

        if ((c >= 0x0001) && (c <= 0x007F)) {

            bytearr[count++] = (byte) c;

        }

        else if (c > 0x07FF) {

            bytearr[count++] = 

                (byte) (0xE0 | ((c >> 12) & 0x0F));

            bytearr[count++] = 

                (byte) (0x80 | ((c >>  6) & 0x3F));

            bytearr[count++] = 

                (byte) (0x80 | ((c >>  0) & 0x3F));

        }

        else {

            bytearr[count++] = 

                (byte) (0xC0 | ((c >>  6) & 0x1F));

            bytearr[count++] = 

                (byte) (0x80 | ((c >>  0) & 0x3F));

        }

    }

字符从charr 中取出。转化成1-3个字节长。并把它写进bytearr中去。在0X1-0X7(7-bit ascII)范围内的字符被映射成它们自己。字符值为0X0和在0X80-0X7范围内的字符被映射成2个字节。所以其它的字符被映射成3个字节。

字符编码与字符集的区别

一、基本概念   1、什么是字符集: 字符集只是一个规则集合的名字, 字符集 = 字库表(character repertoire)、编码字符集(coded character set)、...
  • qq_29028175
  • qq_29028175
  • 2016年10月28日 20:21
  • 2309

字符编码与字符集(Encoding&CharSet)——害死多少程序员

之前在书上看过编码和字符集,也遇到一些乱码问题。但是之前并没有真正区分字符集和字符编码。最后乱码问题还是不能解决。一般在同一个语言、平台上就能够正确显示,因为他们默认的字符集都是一样的。但是如果一个前...
  • woshimalingyi
  • woshimalingyi
  • 2015年10月17日 11:31
  • 2877

三种级别的db2数据库字符集的设置与修改

转自:http://blog.csdn.net/wenfeng/archive/2007/11/19/1893082.aspxDB2数据库与字符集相关的问题主要有三个层次的字符集的设置,其中系统级别和...
  • BEN1978
  • BEN1978
  • 2008年02月19日 17:14
  • 1703

字符,字符集,编码之间的区别

关于字符,字符集,编码格式,没有很清晰的认识。这两天在翻译类的时候,遇到编码问题,就查了N多资料,再这里做一个总结。便于日后复习,以及帮助别人。 首先介绍区分一下三者的具体含义: 字符:不是特定某...
  • luobo140716
  • luobo140716
  • 2015年04月09日 21:50
  • 706

源编码,执行编码,乱码问题

在不同平台上开发C/C++程序时,为了避免源码文件乱码,得采用UTF-8编码来存储源码文件。但是很多编译器对UTF-8源码文件兼容性不佳,于是我做了一些测试,分析了最佳保存方案。 一、测试程序  ...
  • wangkuiyun
  • wangkuiyun
  • 2014年01月10日 14:32
  • 1652

request与response的字符集编码区别

request.setCharacterEncoding() :  设置从request对象中取的值的编码方式。       指定后可以通过getParameter()则直接获得正确的字符串,如果不指...
  • Lm_keepMoving
  • Lm_keepMoving
  • 2017年01月05日 15:02
  • 727

redhat字符编码问题

1、将系统汉化的问题 红帽系统下把英文系统汉化方法: 修改/etc/profile文件,在此文件中添加export LANG=zh_CN.UTF-8,系统重启后生效。 由于redhat是多用户系...
  • jessica1201
  • jessica1201
  • 2012年12月05日 21:10
  • 4405

Redhat编码格式(系统语言、字符集)查询修改

1.查询编码格式命令(注意区分大小写)   Ruby代码   echo $LANG     2.设置编码格式(以UTF-8为例)      方法1.通过该方法设置后,必须...
  • xu1314
  • xu1314
  • 2014年06月12日 09:33
  • 2551

XFTP设置utf8编码的方法

XFTP设置utf8编码的方法在 XFTP远程连接的时候,经常会出现中文乱码(仅指linux主机使用utf8的情况下),解决方案如下:找到图中的Properties按钮(带齿轮的),点击会出现如下所示...
  • kang389110772
  • kang389110772
  • 2016年09月06日 15:43
  • 4659

VS 字符集:Unicode和多字节字符集的区别与联系

在程序正确编译运行的情况下,结果出现以下情况:可见,列表中出现了奇怪字符,我打开项目属性-配置属性-常规-字符集。发现,字符集是使用Unicode的。随后,我将该选项切换至多字节字符集。程序结果如下:...
  • SarahZhang0104
  • SarahZhang0104
  • 2016年05月08日 18:40
  • 3860
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:怎样使用字符集和编码
举报原因:
原因补充:

(最多只允许输入30个字)