(转)JDBC与字符集总结

http://tech.ccidnet.com/art/3737/20051007/472823_1.html

JDBC与字符集总结

发布时间:2006.03.10 07:40      来源:CSDN     作者:

 


JDBC与字符集总结
danci.z(小谢), 2003.11.16

 

过JDBC访问数据库时遇到的字符集问题中,可以归纳为如下因素:

 

- JVM对字符集的处理

 

JVM核心完全使用Unicode字符集,编码上采用UTF-16LE(x86和Unix)。 Java编译器扫描.java源文件时将完成预转换,比如在中文Windows上编译.java文件时,你可能已经注意到.java文件中的字符串和.class中的不一样。因为.java文件本身用的是gb2312编码,而.class内则是UTF-16LE编码。如果你的编辑器支持,你可能会选择直接用UTF-8来书写.java源程序,这时Java编译器就会用UTF-8对源程序解码。

 

在输出时,比如调用System.out.print方法也将完成一个编码转换,在上述情况中经常是将内存中的UTF-16LE编码的字串转换成控制台上可读的gb2312编码。

 


- JSP页面使用的字符集

 

运行JSP页面前总会被预处理至.java程序并被编译成.class,注意到JSP总是一个servlet,因此实际上这里存在两个字符集,一是.jsp文件本身使用的字符集,另一则是servlet输出内容的字符集(content-type)。尽量使.jsp文件本身的字符集和输出内容的字符集保持一致,比如一致采用UTF-8。Response的实现将jvm中的UTF-16LE字串转换至<%@page encoding=...%>所指定的编码,

 


- Connection 使用的字符集

 

连接的字符集限制了SQL语句可以使用的字符。这在UTF-16中格外明显,如果连接不使用UTF-16的字符集,那么由于大多数的Latin-1字符集对'\0'的处理将使大多数SQL语句成为无效语句,比如SELECT语句通过UTF-16LE编码后将变成"S\0E\0L\0E\0C\0T\0...",服务器的SQL分析器在遇到第一个'\0'便认为语句已经结束。
 
但仍然可以将UTF-16LE编码的字串送入Latin-1字符集的连接,方法是SQL语句本身仍采用Latin-1编码,而相关的字串(引号内部的)采用UTF-16LE。这种情况下,UTF-16LE的字串不能包括Unicode字符集中编码小于256的字符(包括拉丁字母和数字、英文符号),否则SQL分析器会报告"字符串未结束"之类的错误。(为什么?)

 

- 数据库系统

 

并不是所有数据库都支持Unicode,你可能有必要通过字符集转换来保存一些特殊的字符数据。如果数据库仅支持Latin-1字符集(这样的系统不在少数),对于中文的情况,你可以将字符串用Latin-1编码,然后用gb2312解码,觉得困惑?如果你(曾经)是C++程序员,那么这里的编码类似于dynamic_cast, 而解码则相当于reinterpret_cast。

 

 sql_str = new String( java_str.getBytes("ISO-8859-1"), "gb2312" );

 

在获取数据的时候则刚好相反:

 

 java_str = new String( sql_str.getBytes("gb2312"), "ISO-8859-1" );

 


如果数据库系统支持Unicode,那么请尽量采用Unicode。有些手册上建议你根据具体情况决定是否使用Unicode,因为Unicode将占用更多的存储空间,而且如果采用UTF-8,排序的速度将会"减慢30% (mysql)",请不要为这些词语而顾虑,大多数情况这些都不是问题。

 

对于SQL Server 2000,这篇文章值得一读:

 

 http://www.microsoft.com/china/msdn/library/techart/IntlFeaturesInSQLServer2000.asp

 

最关键的就是你需要在字符串左边加上N字符(N一定要大写),如

 

 INSERT INTO table(name_en, name_native) VALUES('yokohama', N' 横浜 ')

 


对于Sybase数据库(Sybase 11.5, Sybase 12),系统不支持UTF-16,但支持UTF-8,为了使用Unicode,你可能需要下面的连接字串:
 jdbc:sybase:Tds:127.0.0.1:4000/database?charset=utf8&jconnect_version=0

 

类似的,在SQL语句中使用字符N修饰的字串,使SQL分析器认为字串是Unicode编码的。

 

对于MySQL数据库,系统支持四个级别的字符集设置:
  连接,数据库,表,字段
MySQL参考手册第9章有详细的讨论,但注意版本要求4.1.0以上,同时Windows (nt,2k,xp) 的用户请注意 4.1.0 有个bug,你必须使用4.1.1才能正确使用Unicode。

 

在 SQL Server 和 Sybase 中都有N开头的字段类型,它们被设计用于国际化的字符存储。在SQL Server中,比如NTEXT实际上就是用Unicode存储的的字段类型。

 

SQL-99规定了Unicode字符串统一使用 u 前缀,如 u"コンピュータ",但目前还没有见哪个数据库系统支持这种语法。

 


附:几个字符集支持的测试例子 (需要测试用的源码可以向我要:jljljjl@yahoo.com

 

声明:
  Connection c; 
  Statement s;

 

生成数据:
  String lit1 = "的文本:中华人民共和国]"; 
  String[] encs = new String[] {
   "(default)",    
   "ISO-8859-1", 
   "cp850", 
   "gb2312", 
   "gbk", 
   "big5", 
   "UTF-16LE", 
   "UTF-16BE", 
   "UTF-8", 
  }; 
  
  String javaSrc = "[这是默认编码" + lit1; 
  byte[] rawdata; 
  
  s.executeUpdate("DELETE FROM StringTable"); 
  for (int i = 0; i < encs.length; i++) {
   String targetEncoding = encs[i]; 
   javaSrc = "[这是" + targetEncoding + lit1; 
   String testTarget; 
   
   if (i == 0) {
    rawdata = javaSrc.getBytes(); 
    testTarget = new String(rawdata); 
   } else {
    rawdata = javaSrc.getBytes(targetEncoding); 
    testTarget = new String(rawdata); 
   } 
   
   System.out.println(testTarget); 
   
   String sql = ("INSERT INTO StringTable(charset,text) VALUES(" +  
    "'" + targetEncoding + "', N'" + testTarget + "')"); 
   System.out.println(sql); 
   
   s.executeUpdate(sql); 
  }

 

获取数据:
  ResultSet rs = s.executeQuery("SELECT * FROM StringTable"); 
  
  String charset; 
  String text; 
  while (rs.next()) {
   charset = rs.getString("charset").trim(); 
   text = rs.getString("text"); 
   
   System.out.println(charset + ": [" + text + "]"); 
   
   byte[] raws = text.getBytes(); 
   
   String restore; 
   if ("(default)".equals(charset)) {
    restore = new String(raws); 
   } else {
    restore = new String(raws, charset); 
   }
   System.out.println("   --> [" + restore + "]"); 
  }

 

 

 

典型测试结果:
SQL-Server, type = ntext

 

(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[?琌big5ゅセい?チ㎝?]]
   --> [[?是big5的文本:中?人民共和?]]
UTF-8: [[杩欐槸UTF-8鐨勬枃鏈細涓崕浜烘皯鍏卞拰鍥絔]
   --> [[这是UTF-8的文本:中华人民共和国]]

 

 

 


SQL-Server, type = text

 

(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[?琌big5ゅセい?チ㎝?]]
   --> [[?是big5的文本:中?三民囝和?]]
UTF-8: [[杩欐槸UTF-8鐨勬枃鏈細涓崕浜烘皯鍏卞拰鍥絔]
   --> [[这是UTF-8的文本:中华人民共和国]]

 

 

 

 

 

Sybase, type = char
(default): [[??(default)???????????]]
   --> [[??(default)???????????]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[??gb2312???????????]]
   --> [[??gb2312???????????]]
gbk: [[??gbk???????????]]
   --> [[??gbk???????????]]
big5: [[??big5???????????]]
   --> [[??big5???????????]]
UTF-16LE
   --> [[?啦吀??????????乎?民共?]]
UTF-16BE: 
   --> [[??唀吀??????????乎?共吿??]

 

UTF-8: [[???UTF-8?????????????????]
   --> [[???UTF-8?????????????????]

 


Sybase, type = nchar
(default): [[??(default)???????????]]
   --> [[??(default)???????????]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[??gb2312???????????]]
   --> [[??gb2312???????????]]
gbk: [[??gbk???????????]]
   --> [[??gbk???????????]]
big5: [[??big5???????????]]
   --> [[??big5???????????]]
UTF-16LE
   --> [[?啦吀??????????乎?民共?]]
UTF-16BE: 
   --> [[??唀吀??????????乎?共吿??]

 

UTF-8: [[???UTF-8?????????????????]
   --> [[???UTF-8?????????????????]

 

 

 

Sybase, type = char, charset=utf8
(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[?琌big5ゅセい?チ㎝?]]
   --> [[?是big5的文本:中?人民共和?]]
UTF-16LE:  [[这是UTF-16LE的文本?中华人民共和国]]
UTF-16BE:  [[这是UTF-16BE的文本?中华人民共和嘿]]

 

UTF-8: [[杩欐槸UTF-8鐨勬枃鏈細涓崕浜烘皯鍏卞拰鍥絔]
   --> [[这是UTF-8的文本:中华人民共和国]]

 

 

 


Sybase, type = nchar, charset=utf8

 

(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[?琌big5ゅセい?チ㎝?]]
   --> [[?是big5的文本:中?人民共和?]]
UTF-16LE:  --> [[这是UTF-16LE的文本?中华人民共和国]]
UTF-16BE:  --> [[这是UTF-16BE的文本?中华人民共和嘿]]
UTF-8: [[杩欐槸UTF-8鐨勬枃鏈細涓崕浜烘皯鍏卞拰鍥絔]
   --> [[这是UTF-8的文本:中华人民共和国]]

 

 

 

 

 

Sybase, type = char, charset=cp936
(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[?琌big5ゅセい?チ㎝?]]
   --> [[?是big5的文本:中?人民共和?]]
UTF-16LE: --> [[这是UTF-16LE的文本?中华人民共和国]]
UTF-16BE: --> [[这是UTF-16BE的文本?中华人民共和嘿]]
UTF-8: [[杩欐槸UTF-8鐨勬枃鏈細涓崕浜烘皯鍏卞拰鍥絔]
   --> [[这是UTF-8的文本:中华人民共和国]]

 

 

 

Sybase, type = char, charset=eucgb
(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[??big5?ゅセ?い??チ???]]
   --> [[??big5?文本?中??民???]]
UTF-16LE: --> [[?啦吀??????????乎?民共?]]
UTF-16BE: --> [[??唀吀??????????乎?共吿??]
UTF-8: [[杩??UTF-8??????涓??浜烘??卞???]
   --> [[???UTF-8?????????人????????]

 

 

 


Sybase, type = nchar, charset=eucgb

 

(default): [[这是(default)的文本:中华人民共和国]]
   --> [[这是(default)的文本:中华人民共和国]]
ISO-8859-1: [[??ISO-8859-1???????????]]
   --> [[??ISO-8859-1???????????]]
cp850: [[??cp850???????????]]
   --> [[??cp850???????????]]
gb2312: [[这是gb2312的文本:中华人民共和国]]
   --> [[这是gb2312的文本:中华人民共和国]]
gbk: [[这是gbk的文本:中华人民共和国]]
   --> [[这是gbk的文本:中华人民共和国]]
big5: [[??big5?ゅセ?い??チ???]]
   --> [[??big5?文本?中??民???]]
UTF-16LE: --> [[?啦吀??????????乎?民共?]]
UTF-16BE: --> [[??唀吀??????????乎?共吿??]
UTF-8: [[杩??UTF-8??????涓??浜烘??卞???]
   --> [[???UTF-8?????????人????????]

 

 

 


(从以上测试中可以看出,我的.java文件是用gb2312编码的。)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值