有关汉字编码的一道编程问题

原创 2005年05月29日 00:34:00
//有关汉字编码的一道编程问题
/*不久前网上看到这个题目,我把程序拿来改了一改,并且对原因结果做了一个简要的分析,主要的收获是对GB2312编码及编码相关问题有了一些了解。错误的地方还请大家指正。*/
/*编程:编写一个截取字符串的函数,输入为一个字符串和字节数,
输出为按字节截取的字符串。 但是要保证汉字不被截半个,
如“我ABC”4,应该截为“我AB”,输入“我ABC汉DEF”,6,应该输出为“我ABC”而不是“我ABC+汉的半个”。
*/
class SplitString 
{
     private String str;
     private int byteNum;

     public SplitString(){}

     public SplitString(String str,int byteNum)
     {
          this.str=str;
          this.byteNum=byteNum;
    }
 
     public void splitIt()
     {

          byte bt[]=str.getBytes();
          System.out.println("Length of this String ===>"+bt.length);
          if(byteNum>1)
          {
               if(bt[byteNum]<0)
               {
                pBinInt("bt[byteNum]",bt[byteNum]);
                System.out.println("bt["+byteNum+"] = "+bt[byteNum]);//1
                System.out.println("bt["+byteNum+"] = "+(int)bt[byteNum]);//2
                System.out.println("bt["+byteNum+"] = "+(bt[byteNum]&0x000000FF));//3
                System.out.println("bt["+byteNum+"] = "+(bt[byteNum+1]&0XFF));//4
                String substrx=new String(bt,0,--byteNum);
                System.out.println(substrx);
               }
               else
               {
                String substrex=new String(bt,0,byteNum);
                System.out.println(substrex);
               }
   
          }
          else
          { 
               if(byteNum==1)
               {
                if(bt[byteNum]<0)
                {
                     String substr1=new String(bt,0,++byteNum);
                     System.out.println(substr1);
                }
                else
                { 
                     String subStr2=new String(bt,0,byteNum);
                     System.out.println(subStr2);
                }
               }
               else
               {
                System.out.println("输入错误!!!请输入大于零的整数:");
               }
          }
     }
     static void pBinInt(String s, int i) {
    System.out.println(
      s + ", int: " + i + ", binary: ");
    System.out.print("   ");
    for(int j = 31; j >=0; j--)
      if(((1 << j) &  i) != 0)
        System.out.print("1");
      else
        System.out.print("0");
    System.out.println();
  }
}
class TestSplitString
{
 public static void main(String args[])
 {
  String str="我ABCe啊DEFe";
  int num=6;
  SplitString sptstr = new SplitString(str,num);
  sptstr.splitIt();
 }
}
/*大致思路是:每个汉字对应两个字节,而每个字节的首位都是1,这样对应的就是一个负数.
当然,这样做其实也不是很严密,具体原因就这里不作详细讨论
*/

/*
结果分析:
'啊'对应的是区号是16位,位号是1,这样计算:

3处的输出为176,在JAVA中对应的二进制0X000000B0
最后一个字节有用,即10110000对应的区号是176-128-32 =16,
减去128是因为每个字节的第一位总是1,后面7位(即2的七次方)才有用
减去32是因为GB2312规定
同理,4处的输出为161,对应的是位号,161-128-32=1

1,2处的都为为-80(字节转化为整数)
因为10110000变为整数是变成0xFFFFFFB0,是一个负数的补码,对应的原码是0x80000050,这个负数即是-80
值得一提的是为了求代表'啊'的整数,(16+128+32)*256+(1+128+32),在excel中用char函数:
如char((16 +128+32)*256+(1 +128+32))即可得到'啊'

*/
/*

参考文献:
汉字的编码和表示
 

1)汉字交换码(国标码) 汉字交换码(国标码)主要用于汉字信息交换。
国标码:以国家标准局1980年颁布的《信息交换用汉字编码字符集"基本集》(代号为GB2312 80)规定的汉字交换码作为国家标准汉字编码。 GB2312 80中共有7445个字符符号: 汉字符号6763个 一级汉字3755个(按汉语拼音字母顺序排列) 二级汉字3008个(按部首笔划顺序排列) 非汉字符号682个 GB2312 80规定,所有的国标码汉字及符号组成一个94 94的方阵。在此方阵中,每一行称为一个"区",每一列称为一个"位"。这个方阵实际上组成一个有94个区(编号由01到94),每个区有94个位(编号由01到94)的汉字字符集。 一个汉字所在的区号和位号的组合就构成了该汉字的"区位码"。其中,高两位为区号,低两位为位号。这样区位码可以唯一地确定某一汉字或字符;反之,任何一个汉字或符号都对应一个唯一的区位码,没有重码。 
区位码分布情况如下:
区 号 内 容 1区 键盘上没有的各种符号 2区 各种序号 3区 键盘上的各种符号(按中文方式给出) 4 -5区 日文字母 6区 希腊字母 7区 俄文字母 8区 标识拼音声调的母音及拼音字母名称 9区 制表符号 10- 15区 未用 16-55区 一级汉字(按拼音字母顺序排列) 56- 87区 二级汉字(按部首笔划顺序排列) 88- 94区 自定义汉字 
由上可以看出,所有汉字与符号的94个区,可以分为四个组:
①1 -15区:为图形符号区。其中1 9区为标准符号区;10 15区为自定义符号区。
②16 -55区:为一级汉字区,包含3755个汉字。这些区中的汉字按汉语拼音顺序排序,同音字按笔画顺序列出。
③56 -87区:为二级汉字区,包含3008个汉字。这些区中的汉字是按部首笔划顺序排序的。
④88 -94区:为自定义汉字区。
国标码规定,每个汉字(包括非汉字的一些符号)由2字节代码表示。每个字节的最高位为0,只使用低7位,而低7位的编码中又有34个适用于控制用的,这样每个字节只有27 - 34 = 94个编码用于汉字。2个字节就有94 94=8836个汉字编码。在表示一个汉字的2个字节中,高字节对应编码表中的行号,称为区号;低字节对应编码表中的列号,称为位号。
汉字国标码的范围用二进制表示是: 00100001 00100001 01111110 01111110 (1+32)10 (1+32)10 (94+32)10 (94+32)10 7位ASCII码是128个字符组成的字符集。其中编码值0 31(00000000 00011111)不对应任何印刷字符,通常称为控制符,用于计算机通信中的通信控制或对计算机设备的功能控制。编码值32(00100000)是空格字符SP。编码值127(1111111)是删除字符DEL。
汉字国标码的起始二进制位置选择00100001即(33)10是为了跳过ASCII码的32个控制字符和空格字符。所以,汉字国标码的高位和低位分别比对应的区位码大(32)10或(00100000)2或(20)H,即: 国标码高位 = 区码 + 20H (H表示十六进制) 国标码低位 = 位码 + 20H
2) 汉字机内码(内码)(汉字存储码) 
汉字机内码(内码)(汉字存储码)的作用是统一了各种不同的汉字输入码在计算机内部的表示。 为了将汉字的各种输入码在计算机内部统一起来,就有了专用于计算机内部存储汉字使用的汉字机内码,用以将输入时使用的多种汉字输入码统一转换成汉字机内码进行存储,以方便机内的汉字处理 汉字机内码是在计算机内部存储、处理的代码。计算机既要处理汉字,又要处理英文。因此计算机必须能区别汉字字符和英文字符。英文字符的的机内码是最高为为0的8位ASCII码。为了不与7位ASCII码发生冲突,把国标码每个字节的最高位由0改为1,其余位不变的编码作为汉字字符的机内码。
汉字机内码的范围用二进制表示是: 10100001 10100001 11111110 11111110 机内码的高位和低位比对应的国标码的高位和低位大(128)10或(10000000)2或(80)H 即: 机内码高位 = 国标码高位 + 80H 机内码低位 = 国标码低位 + 80H 又因为: 国标码高位 = 区码 + 20H 国标码低位 = 位码 + 20H 所以: 机内码高位 = 区码 + A0H 机内码低位 = 位码 + A0H 也就是说,机内码高位和机内码低位分别比对应的区码和位码大(160)10或(10100000)2或(A0)H 例如:汉字"啊"的区位码为"1601",其中区码为(16)10或(10)H,位码为(01)10或(01)H。 则: 机内码高位 = 10H + A0H = B0H 机内码低位 = 01H + A0H = A1H 所以: 机内码= B0A1H 

3) 汉字输入码(外码)
汉字输入码(外码)是为了通过键盘字符把汉字输入计算机而设计的一种编码。 英文输入时,相输入什么字符便按什么键,输入码和机内码一致。汉字输入时,可能要按几个键才能输入一个汉字。 汉字输入方案有成百上千个,但是这千差万别的外码输入进计算机后都会转换成统一的内码。 汉字输入方案大致可分为以下4种类型:
(1) 音码:如全拼、双拼、微软拼音等 
(2) 形码:如五笔字型、郑码、表形码等 
(3) 音形码:如智能ABC、自然码等
(4) 数字码:如区位码、电报码等
4) 汉字字形码(输出码)
汉字字形码(输出码)用于汉字的显示和打印,是汉字字形的数字化信息。 汉字的内码是用数字代码来表示汉字,但是为了在输出时让人们看到汉字,就必须输出汉字的字形。在汉字系统中,一般采用点阵来表示字形。 16 *16汉字点阵示意 16 * 16点阵字形的字要使用32个字节(16 * 16/8=32)存储,24 * 24点阵字形的字要使用72个字节(24 * 24/8=72)存储。
一般来说,表现汉字时使用的点阵越大,则汉字字形的质量也越好,当然每个汉字点阵所需的存储量也越大。
5) 汉字地址码
汉字地址码是指汉字库(这里主要指整字形的点阵式字模库)中存储汉字字形信息的逻辑地址。在汉字库中,字形信息都是按一定顺序(大多数按标准汉字交换码中汉字的排列顺序)连续存放在存储介质上的,所以汉字地址码也大多是连续有序的,而且与汉字内码间有着简单的对应关系,以简化汉字内码到汉字地址码的转换。

*/

汉字编码与编程相关问题总结:ASCII、机内码、区位码、国标码、Unicode码是如何转换的

一、ASCII、机内码、区位码、国标码、Unicode码他们之间是如何转换的,方程式是什么 汉字系统中的过程包括区位码、国标码和机内码,其中的转换关系如下: 1.区位码(十进制)转换成区位...

JSPServlet 中的汉字编码问题

  • 2011年06月22日 21:36
  • 56KB
  • 下载

解决Qt中文乱码以及汉字编码的问题(UTF-8/GBK)

一、Qt环境设置 Qt Creator,菜单->工具->选项->文本编辑器->行为->文件编码: 默认编码:System(简体中文windows系统默认指的是GBK编码,即下拉框选项里的GBK/win...

java应用中的汉字编码问题

  • 2012年01月04日 22:16
  • 342KB
  • 下载

URL汉字编码问题(及乱码解决)

  • 2013年05月19日 10:28
  • 295KB
  • 下载

如何根据字节流内容确定汉字编码,从而解决相同App在部分省份显示乱码的问题

近期,有某些省份的电信用户反映公司的Android客户端App通过3G手机卡得到的部分数据显示是乱码,但在wifi环境下显示是正常,初步排查是因为数据在进行gzip压缩之前的编码不同,在某些省份是GB...

JSP Servlet 中的汉字编码问题

  • 2010年02月10日 22:35
  • 37KB
  • 下载

【python】python 转换为json时候 汉字编码问题

有这样一个需求:       需要一个json 文件 数据从数据库里查询出来 1. 设置文件头       Python代码   # -*- coding:utf-8 -*-   ...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:有关汉字编码的一道编程问题
举报原因:
原因补充:

(最多只允许输入30个字)