一、概述
首先要明白什么是字符编码这个问题,字符编码就是将我们人能认识的字符,比如:"a","b",“中”,“国”等变成计算机可以认识的字符,叫做字符编码。但是现在又有一个问题,我们依据什么转换规则,将人认识的字符编码成计算机认识的字符呢?这时我们就要来了解一下字符编码的发展过程了。
二、字符编码的发展过程
1、ASCII码
我们都知道在计算机内部,所有信息都是用二进制表示,而具体哪些二进制对应什么字符呢,这就需要有一套编码表,这时美国的有关标准化组织就出台了ASCII ((American Standard Code for Information Interchange): 美国信息交换标准代码)编码。
ASCII码一共规定了128个字符的编码,每个字符用一个字节(Byte)表示,我们知道字节是计算机中存储的最小单位,每个字节有8位,128 = 2 ^ 7,意思是用7位就可以编码完128个字符,最前面1位用0替代。例如:大写字母A在ASCII码中对应的是65,编码成计算机识别的二进制就是01000001。
2、Unicode
有了ASCII码,为什么还要搞一个Unicode呢?也许你已经意识到问题了,因为计算机是美国发明的,美国的语言是英语,用ASCII码128个字符就能表示完所有英文里面的字符了。但是世界上除了英语还有很多语言,比如中文,用128个字符是显然不够的,况且这128个字符对应的都是英文,为了统一所有文字的编码,Unicode应运而生。
需要注意的是,Unicode只是一个字符集,它只规定了字符对应的二进制代码,却没有规定这个二进制代码如何存储。比如:“国”对应的Unicode是56FD,转成二进制是101011011111101,它有15位,需要2个字节来存储,其他更大的字符可能需要3个或4个字节存储,而英文呢,只需要1个字节存储就够了,此时我们如何区分2个字节里面存储的是一个汉字还是两个英文字母呢?如果都用4个字节来存储,对英文字母来说极大的浪费了空间,本来只需要1个字节,后面多出来的3个字节都要用0替代。那么这问题如何解决,直到utf-8的出现。
3、UTF-8
UTF-8是Unicode的一种实现方式,它最大的特点是一种可变长的编码方式。使用的编码字节数1-4个不等。同样还有UTF-16,使用的编码字节数是2-4个不等。UTF-32使用的编码字节数是4个。
utf-8的编码规则是:
1)对于单字节的字符,前面一位是0,后面七位是这个字符的Unicode码,对于英文字符来说,utf-8编码和ASCII码是一样的。
2)对于n字节的字符(n > 1),第一个字节的前n位都设为1,第n+1位设为0,后面字节的前两位设为10,剩下的二进制用Unicode码表示。
三、乱码问题
乱码出现的原因是编码和解码的格式不对应,比如用GBK编码,用ISO-8859-1解码,就会出现乱码。解决的办法就是编解码要同样的格式。
//编码
String str1 = new String("中国");
byte[] strByte = null;
try {
strByte = str1.getBytes("GBK");
System.out.println(Arrays.toString(strByte)); //[-42, -48, -71, -6]
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
//解码
String str2 = null;
try {
str2 = new String(strByte,"ISO-8859-1");
System.out.println(str2); //Öйú
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
还有一种情况是,编码和解码格式一样,还是会出现乱码,这是因为数据在服务器中做了处理,返回的数据用了其他方式编码。此时应该将获取的数据还原编码,然后再进行解码。
//编码操作
String str = new String("中国");
byte[] strByte = new byte[0];
try {
strByte = str.getBytes("UTF-8");
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
System.out.println(Arrays.toString(strByte));//[-28, -72, -83, -27, -101, -67]
//经过了服务器的转换,编码格式转成了ISO-8859-1
String str2 = null;
try {
str2 = new String(strByte,"ISO-8859-1");
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
//解码操作, 此时如果直接进行解码,那么会乱码
String str3 = null;
try {
str3 = new String(str2.getBytes(),"UTF-8");
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
//对于上面的乱码,先还原服务器之前的编码格式
byte[] strByte2 = new byte[0];
try {
strByte2 = str2.getBytes("ISO-8859-1");
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
//再进行解码
String str4 = null;
try {
str4 = new String(strByte2,"UTF-8");
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
System.out.println(str4); //中国