编码问题

转载 2006年06月06日 12:48:00

编码问题

UNICODE ---存储,是微软提出的解决多国字符问题的多字节等长编码,它对英文字符采取前面加“0”字节的策略实现等长兼容。如“A” 的 ASCII 码为0x41,UNICODE 就为0x00,0x41。

UTF-8      ---传输 (8-bit Unicode Transformation Format)是一种无损(lossless),可变长度(variable-length)的字符编码形式。取决于不同的 Unicode 符号,用一到四字节表示一个字符。

简单地说,Unicode 规定了字符如何被编码,UTF-8 规定了如何传输、保存这个编码。
例如,“汉”字的 Unicode 编码是6C 49,可以用4个ascii数字来传输、保存这个编码;也可以用utf-8编码:3个连续的字节E6 B1 89来表示它。


显示:
  1>.出现?只是编码有问题
  2>.出现小方框,字体问题


        用-encoding指定源文件的编码方式为GBK或gb2312,无论我们在什么系统上编译含有中文字符的JAVA源程序都不会有问题,它都会正确地将中文转化为UNICODE存储在class文件中/.
        几乎所有的WEB容器在其内部默认的字符编码格式都是以ISO-8859-1为默认值的,同时,几乎所有的浏览器在传递参数时都是默认以UTF-8的方式来传递参数的。所以,虽然我们的Java源文件在出入口的地方指定了正确的编码方式,但其在容器内部运行时还是以ISO-8859-1来处理的

 


 

预备知识:
 1.字节和unicode
  Java内核是unicode的,就连class文件也是,但是很多媒体,包括文件/流的保存方式
  是使用字节流的。 因此Java要对这些字节流经行转化。char是unicode的,而byte是字节.
  Java中byte/char互转的函数在sun.io的包中间有。其中ByteToCharConverter类是中调度,
  可以用来告诉你,你用的Convertor。其中两个很常用的静态函数是
   public static ByteToCharConverter getDefault() ;
   public static ByteToCharConverter getConverter(String encoding);
  如果你不指定converter,则系统会自动使用当前的Encoding,GB平台上用GBK,EN平台上用
  8859_1
  
  我们来就一个简单的例子:
     "你"的gb码是:0xC4E3 ,unicode是0x4F60
     你用:
     --encoding="gb2312";
     --byte b[]={(byte)'/u00c4',(byte)'/u00E3'};
     --convertor=ByteToCharConverter.getConverter(encoding);
     --char [] c=converter.convertAll(b);
     --for(int i=0;i<c.length;c++)
     --{
     -- ***.out.println(Integer.toHexString(c[i]));
     --}
     --打印出来是0x4F60
     --但是如果使用8859_1的编码,打印出来是
     --0x00C4,0x00E3
     ----例1
     反过来:
     --encoding="gb2312";
        char c[]={'/u4F60'};
        convertor=ByteToCharConverter.getConverter(encoding);
     --byte [] b=converter.convertAll(c);
     --for(int i=0;i<b.length;c++)
     --{
     -- ***.out.println(Integer.toHexString(b[i]));
     --}
      --打印出来是:0xC4,0xE3
      ----例2
      --如果用8859_1就是0x3F,?号,表示无法转化      --
      很多中文问题就是从这两个最简单的类派生出来的。而却有很多类  
  不直接支持把Encoding输入,这给我们带来诸多不便。很多程序难得用encoding
  了,直接用default的encoding,这就给我们移植带来了很多困难
  --
  2.UTF-8
  --UTF-8是和Unicode一一对应的,其实现很简单
  --
  7位的: 0_ _ _ _ _ _ _
  11位的:110_ _ _ _ _10_ _ _ _ _ _
  16位的:1110 _ _ _ _10_ _ _ _ _ _10_ _ _ _ _ _
  21位的:11110_ _ _ 10_ _ _ _ _ _10_ _ _ _ _ _10 _ _ _ _ _ _
  

   大多数情况是只使用到16位以下的Unicode:
  --"你"的gb码是:0xC4E3 ,unicode是0x4F60
  --我们还是用上面的例子
  例1:0xC4E3的二进制:
       1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1
       由于只有两位我们按照两位的编码来排,但是我们发现这行不通,
       因为第7位不是0因此,返回"?"  
  例2:0x4F60的二进制:
      0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0
      我们用UTF-8补齐,变成:
      11100100 10111101 10100000
     E4--BD-- A0
      于是返回0xE4,0xBD,0xA0
  
  3.String和byte[]
  String其实核心是char[],然而要把byte转化成String,必须经过编码。
  String.length()其实就是char数组的长度,如果使用不同的编码,很可
  能会错分,造成散字和乱码。
  --例:
  byte [] b={(byte)'/u00c4',(byte)'/u00e3'};
  String str=new String(b,encoding);  ----
  如果encoding=8859_1,会有两个字,但是encoding=gb2312只有一个字  
  这个问题在处理分页是经常发生


  4.Reader,Writer/InputStream,OutputStream
  -Reader和Writer核心是char,InputStream和OutputStream核心是byte。
  -但是Reader和Writer的主要目的是要把Char读/写InputStream/OutputStream
--一个reader的例子:
--文件test.txt只有一个"你"字,0xC4,0xE3--
--String encoding=;
--InputStreamReader reader=new InputStreamReader(
----new FileInputStream("text.txt"),encoding);
--char []c=new char[10];
--int length=reader.read(c);
--for(int i=0;i<c.length;i++)
----***.out.println(c[i]);
  --如果encoding是gb2312,则只有一个字符,如果encoding=8859_1,则有两个字符
 2.我们要对Java的编译器有所了解:
 --javac -encoding
  我们常常没有用到ENCODING这个参数。其实Encoding这个参数对于跨平台的操作是很重要的。
  如果没有指定Encoding,则按照系统的默认Encoding,gb平台上是gb2312,英文平台上是ISO8859_1。 
 --Java的编译器实际上是调用sun.tools.javac.Main的类,对文件进行编译,这个类有compile函数中间有一个encoding的变量,-encoding的参数其实直接传给encoding变量。
 编译器就是根据这个变量来读取java文件的,然后把用UTF-8形式编译成class文件。
 一个例子:
 --public void test()
 --{
 ----String str="你";
 ----FileWriter write=new FileWriter("test.txt");
 ----write.write(str);
 ----write.close();
 --}
 例3
--如果用gb2312编译,你会找到E4 BD A0的字段
--
--如果用8859_1编译,
--00C4 00E3的二进制:
--00000000 11000100 00000000 11100011--
--因为每个字符都大于7位,因此用11位编码:
--11000001 10000100 11000011 10100011
--C1-- 84-- C3--  A3
--你会找到C1 84 C3 A3 --
    
  但是我们往往忽略掉这个参数,因此这样往往会有跨平台的问题:
  --  例3在中文平台上编译,生成ZhClass
  --  例3在英文平台上编译,输出EnClass
  --1.  ZhClass在中文平台上执行OK,但是在英文平台上不行
  --2.  EnClass在英文平台上执行OK,但是在中文平台上不行
  原因:
 --1.在中文平台上编译后,其实str在运行态的char[]是0x4F60, ----
 --在中文平台上运行,FileWriter的缺省编码是gb2312,因此
 --CharToByteConverter会自动用调用gb2312的converter,把str转化
 --成byte输入到FileOutputStream中,于是0xC4,0xE3放进了文件。
 --但是如果是在英文平台下,CharToByteConverter的缺省值是8859_1,
 --FileWriter会自动调用8859_1去转化str,但是他无法解释,因此他会
 --输出"?" ----
 --2. 在英文平台上编译后,其实str在运行态的char[]是0x00C4 0x00E3, ----
 --在中文平台上运行,中文无法识别,因此会出现??
 --在英文平台上,0x00C4-->0xC4,0x00E3->0xE3,因此0xC4,0xE3被放进了文件

1.对于JSP正文的解释:
--Tomcat首先看一下你的叶面中有没有"<%@page include的符号。有,则在相同
--地方设定response.setContentType(..);按照encoding的来读,没有他按照8859_1读取文件,然后用UTF-8写成.java文件,然后用sun.tools.Main去读取这个文件,(当然它使用UTF-8去读),然后编译成class文件,setContentType改变的是out的属性,out变量缺省的encoding是8859_1

2.对Parameter的解释
--很不幸Parameter只有ISO8859_1的解释,这个质料可以在servlet的实现代码中找到。

3.对include的解释
格式的,但是很不幸,由于那个写"org.apache.jasper.compiler.Parser"的人
在数组JspUtil.ValidAttribute[]忘记加了一个参数:encoding,因此导致不支
持这种方式。你完全可以编译源代码,加上对encoding的支持

总结:

如果你在NT底下,最简单的方法就是欺骗java,不加任何Encoding变量:
<html>
你好<%=request.getParameter("value")%>
</html>

http://localhost/test/test.jsp?value=你

结果:你好你

但这种方法局限性较大,比如对上传的文章分段,这样的做法是死定的,最好的
解决方案是用这种方案:
<%@ page contentType="text/html;charset=gb2312" %>
<html>
你好<%=new String(request.getParameter("value").getBytes("8859_1"),"gb2312")%>
</html>


相关文章推荐

解决Sublime Text 3在GBK编码下的中文乱码问题

Sublime Text 3是我最喜欢的代码编辑器,没有之一,因为她的性感高亮代码配色,更因为它的小巧,但是它默认不支持GBK的编码格式,因此打开GBK的代码文件,如果里面有中文的话,就会乱码。 ...

java-web 编码问题详解

JAVA字符编码问题总结

  • 2013-06-20 14:39
  • 25KB
  • 下载

关于Oracle数据库中不同编码所造成的中文乱码问题

作为一个ORACLE DBA,在工作中会经常处理由于字符集产生的一些问题。但是当真正想写一些这方面的东西时,却突然又没有了头绪。发了半天呆,还是决定用两个字符集方面的例子作为切入点,倒不失为一个头绪,...

关于代码编码问题

  • 2015-05-20 14:54
  • 16KB
  • 下载

python 中文编码问题

转自:http://hi.baidu.com/fc_lamp/blog/item/177d8f835b1bd0bd0df4d273.html python 中文编码问题 中文编码问题是用中文的程序...

mysql编码问题

  • 2013-06-05 01:38
  • 19KB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)