字符集与编码方式浅谈

转载 2015年07月08日 15:51:27


    美国人首先对其英文字符进行了编码,也就是最早的ascii码,用一个字节的低7位来表示英文的128个字符,高1位统一为0。后来欧洲人发现尼玛你这128位哪够用,比如我高贵的法国人字母上面的还有注音符。这个怎么区分?得,把高1位编进来吧,这样欧洲普遍使用一个全字节进行编码,最多可表示256位。

    欧美人就是喜欢直来直去,字符少,编码用得位数少。但是即使位数少,不同国家地区用不同的字符编码。虽然0--127表示的符号是一样的,但是128--255这一段的解释完全乱套了,即使二进制全一样,表示的字符却完全不同。比如135在法语希伯来语,俄语编码中完全是不同的符号。更麻烦的是,尼玛这电脑高科技传到中国后,中国人发现我们有10万多个汉字,你们欧美这256字塞牙缝都不够。于是就发明了GB2312这些汉字编码,典型的用2个字节来表示绝大部分的常用汉字,最多可以表示65536个汉字字符。这样就不难理解有些汉字你在新华字典里查得到,但是电脑上如果不处理一下你是显示不出来的了吧。
    这下各用各的
字符集编码,这世界咋统一?俄国人发封email给中国人,两边字符集编码不同,尼玛显示都是乱码啊。为了统一,于是就发明了unicode,将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码,现在unicode可以容纳100多万个符号,每个符号的编码都不一样。这下可统一了,所有语言都可以互通,一个网页页面里可以同时显示各国文字。然而,unicode虽然统一了全世界字符的二进制编码,但没有规定如何存储啊。亲,x86和amd体系结构的电脑小端序和大端序都分不清,别提计算机如何识别到底是unicode还是acsii了。如果unicode统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,文本文件的大小会因此大出二三倍,这对于存储来说是极大的浪费。这样导致一个后果:出现了unicode的多种存储方式。
    互联网的兴起,网页上要显示各种字符,必须统一啊。亲,utf-8就是unicode最重要的实现方式之一。另外还有utf-16、utf-32等。utf-8不是固定字长编码的,而是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。这是种比较巧妙的设计,如果一个字节的第一位是0,则这个字节单独就是一个字符;如果第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。
    注意unicode的字符编码和utf-8的存储
编码表示是不同的,例如"严"字的unicode码是4E25,UTF-8编码是E4B8A5。这个在前边解释了的,utf-8编码不仅考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。
    UTF-8使用一至四个字节为每个字符编码。128个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的
拉丁文希腊文西里尔字母亚美尼亚语希伯来文阿拉伯文叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)需要二个字节,其他基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其他 Unicode 辅助平面的字符使用四字节编码。 
    综上来看,中文汉字在utf-8中到底占几个字节?一般是3个字节,最常见的编码方式是1110xxxx 10xxxxxx 10xxxxxx。

来源: <http://wenwen.sogou.com/z/q550898818.htm>
 

相关文章推荐

深入的谈一谈,字符集的编码方式。

由于接触到的编码方式比较多,比较杂,比较容易搞混,而且经常性
  • xuheazx
  • xuheazx
  • 2014年08月04日 13:52
  • 478

浅谈计算机中编码方式

所谓计算机编码,就是将通用的语言转换为能在计算机交流的语言。 1. 汉字编码 汉字编码分两种,国标码,机内码。  (1)国标码,即GB2312-80在国标码的字符集中,收集了一级汉字3755个,...

浅谈字符编码方式与python的中文编码(一)

浅谈字符编码方式与python的中文编码(一) 1、ANSI       最初,计算机中只存储西方人常用的一些字符,比如英文字母、常见符号、数字等,加起来也不超过128个。也就是说,一...
  • HK_JH
  • HK_JH
  • 2013年04月06日 18:39
  • 1138

字符集和编码方式

一 预备知识 1,字符:字符是抽象的最小文本单位。它没有固定的形状(可能是一个字形),而且没有值。“A”是一个字符,“€”(德国、法国和许多其他欧洲国家通用货币的标志)也是一个字符。“中”“国”这是...

字符集&字符编码方式

Mysql字符集知识总结 字符集&字符编码方式      字符集(Character set)是多个字符的集合,字符集种类较多,每个字符集包含的字符个数不同,这里的字符可以是英文字...

字符集与编码方式解惑

1、什么是【locale】? 【locale】指一个程序或者操作系统所处的国家、字符集、时间显示的格式、货币符号等。 在C标准库的locale.h文件中定义了常量LC_ALL(全部locale项)...

Unicode 字符集与它的编码方式

正式内容开始之前,我们先来了解一个基本概念,编码字符集。     编码字符集:编码字符集是一个字符集,它为每一个字符分配一个唯一数字。Unicode 标准的核心是一个编码字符集,字母“A”的编码为 0...

编码方式和字符集理解

(1)概念     位(bit):数据存储的最小单位。位,简记为b,也称为比特,每个0或1就是一个位(bit)。计算机中的CPU位数指的是CPU一次能处理的最大位数。     字节(Byte):8...

谈谈java点字符集,编码方式

经常涉及到编码,字符集,unicode,
  • score20
  • score20
  • 2014年07月12日 03:29
  • 685

字符集编码浅谈:Unicode、UTF-8

unicode是一个字符集,utf8是在这个字符集基础上的一种具体的编码方案。utf8解决了unicode字符集的解析问题。...
  • binwehn
  • binwehn
  • 2016年09月01日 08:51
  • 113
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:字符集与编码方式浅谈
举报原因:
原因补充:

(最多只允许输入30个字)