位与字节

 

 位与字节

如果您使用计算机的时间超过五分钟，那么肯定听说过位和字节这样的词。RAM 和硬盘 都使用字节作为容量单位，您在文件查看器中查看文件时的文件大小也以字节为单位显示。

您可能听过这样一句广告词：“该计算机拥有32位奔腾处理器，配备了64兆字节的RAM和2.1吉字节的硬盘。”在许多博闻网文章里也都提到过字节（例如CD的工作原理 ）。在本文中，我们将讨论位和字节，使您对此有一个完整的了解。

十进制数

了解位的最简单方法就是将其与您知道的事物进行比较：数位。数位是可以包含0-9之间某个数 值的单个位置。通常数位会组合在一起来创造更大的数字。例如，6,357有四个数位。我们对它是这么理解的，在数字6,357中，7占据“个位”，而5占 据“十位”，3占据“百位”且6占据“千位”。所以如果您要明确表示数字，可以通过这种方式： (6*1000)+(3*100)+(5*10)+(7*1)=6000+300+50+7=6357

另一种表示数位的方法是使用10的幂。假设我们以“^”符号表示“幂次方”的概念（这样“10的平方”便记为“10^2”），则另一种表示它的方法如下： (6*10^3)+(3*10^2)+(5*10^1)+(7*10^0)=6000+300+50+7=6357

从该表达式中可以看到，从个位开始（在个位为10的0次幂），每个数位都是下一个更高的10次幂的占位符。

对此我们都应感到非常熟悉——每天我们都在与十进制位打交道。数字体系的巧妙之处在于不会强制规定一个数位必须有10个可能的值。我们会建立起十进制的数字体系很可能是因为我们有10个手指，但如果我们恰好进化 为只有八个手指，那么可能会拥有以8为基数的数字体系。您可以拥有以任意数为基数的数字体系。实际上，在不同情况下使用不同的基数有很多好处。

位

计算机恰好使用以2为基数的数字体系进行运算，也称为二进制数字体系（就如同以10为基数的数字体系称为十进制数字体系一样）。

计算机使用二进制的原因在于，它更容易利用当前的电子技术制造出计算机。您可以设计并制造以10为基数进行运算的计算机，但目前看来其价格将异常昂贵。相对地，以2为基数的计算机比较便宜。

所以计算机使用二进制数，并使用二进制位取代十进制位。单词bit（位）是“Binary digIT”（二进制位）的缩写。十进制位有从0到9的10个可能的值，但二进制位仅有两个可能的值——0和1。因此二进制数仅由0和1组成。如下所 示：1011。您如何算出二进制数1011的值是多少？计算方式与上面计算6357的方式一样，但您要用2作为基数而不是10。因此：(1*2^3)+ (0*2^2)+(1*2^1)+(1*2^0)=8+0+2+1=11

您可以看到，在二进制数中，每个位包含2的升幂的值。这使得以二进制进行计算非常容易。0到20的十进制和二进制表示如下所示：

0 = 0

1 = 1

2 = 10

3 = 11

4 = 100

5 = 101

6 = 110

7 = 111

8 = 1000

9 = 1001

10 = 1010

11 = 1011

12 = 1100

13 = 1101

14 = 1110

15 = 1111

16 = 10000

17 = 10001

18 = 10010

19 = 10011

20 = 10100

查看序列时，您会发现0和1在十进制和二进制数系统中是相同的。在数字2处，您看到首先发生进位的是二进制体系。如果某个位的值为1，然后您对其加1，则该位变为0且下一位变为1。在从15到16的过渡中，对4个位逐个进行此过程，将1111变为10000。

字节

位在计算机中极少单独出现。它们几乎总是绑定在一起成为8位集合，称为字节。什么一个字节中有8位呢？一个类似的问题是：为什么一打鸡蛋有12个呢？8位字节是人们在过去50年中不断对试验及错误进行总结而确定下来的。

通过以8个位组成一个字节，您可以表示0-255之间的256个值，如下所示：

0 = 00000000

1 = 00000001

2 = 00000010

...

254 = 11111110

255 = 11111111

在CD的工作原理 这篇文章中，您知道每次采样时CD使用的是2个字节或者说16个位。因此每次采样的范围为0到65,535，如下所示：

0 = 0000000000000000

1 = 0000000000000001

2 = 0000000000000010

...

65534 = 1111111111111110

65535 = 1111111111111111

字节：ASCII码

字节经常用于存放文本文件中的各个字符。在ASCII字符集中，每个介于0到127之间的二进制值均表示一个特定的字符。大多数计算机都扩展了ASCII字符集以使用一个字节所能表示的所有256个字符。上部的128个字符负责处理特殊项，如来自常见外国语言的重音符。

您可以看到以下的127个标准ASCII编码。计算机使用这些编码在磁盘 和内存 中 存储文本文件。例如，如果您在Windows 95/98中使用记事本创建一个包含“Four score and seven years ago”这些单词的文本文件，记事本将为每个字符使用1个字节的内存（包括为单词之间的每个空格使用1个字节，对应的ASCII字符为32）。当记事本将 该句子保存在磁盘上的文件中时，文件中的每个字符和每个空格也会占用1个字节的空间。

请做一下下面这个试验：在记事本中打开一个新文件并输入“Four score and seven years ago”这个句子。将文件以getty.txt的名称保存到磁盘中。然后使用资源管理器查看文件大小。您将发现磁盘上的文件大小为30字节：每个字符1个 字节。如果您在句子结尾又加了一个单词并重新保存该文件，文件大小将变为相应的字节数。每个字符都占用一个字节。

如果您用计算机方式来看待文件，您会发现每个字节包含的不是一个字母，而是一个数字——该数字就是与字符对应的ASCII码（参见下文）。因此在磁盘中，文件中的各个数字显示如下：

• F o u r a n d s e v e n

  70 111 117 114 32 97 110 100 32 115 101 118 101 110

通过查找ASCII表，您可以看到每个字符和ASCII码之间的一一对应 关系。请注意，空格对应的数字为32——32是空格的ASCII码。从技术角度来说，正确的表示方式应该是将这些十进制数展开为二进制数（因此 32=00100000）——计算机实际上处理的是这种形式的内容。

标准ASCII字符集

有32个值（0-31）是用于回车符及换行符这样的字符的编码。空格符为第33个值，后面跟的是标点、数字、大写字符和小写字符。

 

• 0 NUL

  1 SOH

  2 STX

  3 ETX

  4 EOT

  5 ENQ

  6 ACK

  7 BEL

  8 BS

  9 TAB

  10 LF

  11 VT

  12 FF

  13 CR

  14 SO

  15 SI

  16 DLE

  17 DC1

  18 DC2

  19 DC3

  20 DC4

  21 NAK

  22 SYN

  23 ETB

  24 CAN

  25 EM

  26 SUB

  27 ESC

  28 FS

  29 GS

  30 RS

  31 US

  32

  33 !

  34 "

  35 #

  36 $

  37 %

  38 &

  39 '

  40 (

  41 )

  42 *

  43 +

  44 ,

  45 -

  46 .

  47 /

  48 0

  49 1

  50 2

  51 3

  52 4

  53 5

  54 6

  55 7

  56 8

  57 9

  58 :

  59 ;

  60 <

  61 =

  62 >

  63 ?

  64 @

  65 A

  66 B

  67 C

  68 D

  69 E

  70 F

  71 G

  72 H

  73 I

  74 J

  75 K

  76 L

  77 M

  78 N

  79 O

  80 P

  81 Q

  82 R

  83 S

  84 T

  85 U

  86 V

  87 W

  88 X

  89 Y

  90 Z

  91 [

  92

  93 ]

  94 ^

  95 _

  96 `

  97 a

  98 b

  99 c

  100 d

  101 e

  102 f

  103 g

  104 h

  105 i

  106 j

  107 k

  108 l

  109 m

  110 n

  111 o

  112 p

  113 q

  114 r

  115 s

  116 t

  117 u

  118 v

  119 w

  120 x

  121 y

  122 z

  123 {

  124 |

  125 }

  126 ~

  127 DEL

 

 

 

转 http://hi.baidu.com/wanzq/blog/item/d04dfc50ed01545c1038c293.html

 

很久很久以前，有一群人，他们决定用8个可以开合的晶体管来组合成不同的状态，以表示世界上的万物。他们看到8个开关状态是好的，于是他们把这称为"字节"。 
再后来，他们又做了一些可以处理这些字节的机器，机器开动了，可以用字节来组合出很多状态，状态开始变来变去。他们看到这样是好的，于是它们就这机器称为"计算机"。 

开始计算机只在美国用。八位的字节一共可以组合出256(2的8次方)种不同的状态。 
他们把其中的编号从0开始的32种状态分别规定了特殊的用途，一但终端、打印机遇上约定好的这些字节被传过来时，就要做一些约定的动作。遇上 00x10, 终端就换行，遇上0x07, 终端就向人们嘟嘟叫，例好遇上0x1b, 打印机就打印反白的字，或者终端就用彩色显示字母。他们看到这样很 好，于是就把这些0x20以下的字节状态称为"控制码"。 
他们又把所有的空格、标点符号、数字、大小写字母分别用连续的字节状态表示，一直编到了第127号，这样计算机就可以用不同字节来存储英语的文字了。大家 看到这样，都感觉很好，于是大家都把这个方案叫做 ANSI 的"Ascii"编码 （American Standard Code for Information Interchange，美国信息互换标准代码）。当时世界上所有的 计算机都用同样的ASCII方案来保存英文文字。 
后来，就像建造巴比伦塔一样，世界各地的都开始使用计算机，但是很多国家用的不是英文，他们的字母里有许多是ASCII里没有的，为了可以在计算机保存他 们的文字，他们决定采用127号之后的空位来表示这些新的字母、符号，还加入了很多画表格时需要用下到的横线、竖线、交叉等形状，一直把序号编到了最后一 个状态255。从128到255这一页的字符集被称"扩展字符集"。从此之后，贪婪的人类再没有新的状态可以用了，美帝国主义可能没有想到还有第三世界国 家的人们也希望可以用到计算机吧！ 
等中国人们得到计算机时，已经没有可以利用的字节状态来表示汉字，况且有6000多个常用汉字需要保存呢。但是这难不倒智慧的中国人民，我们不客气地把那 些127号之后的奇异符号们直接取消掉, 规定：一个小于127的字符的意义与原来相同，但两个大于127的字符连在一起时，就表示一个汉字，前面的一个 字节（他称之为高字节）从0xA1用到0xF7，后面一个字节（低字节）从0xA1到0xFE，这样我们就可以组合出大约7000多个简体汉字了。在这些 编码里，我们还把数学符号、罗马希腊的字母、日文的假名们都编进去了，连在 ASCII 里本来就有的数字、标点、字母都统统重新编了两个字节长的编码， 这就是常说的"全角"字符，而原来在127号以下的那些就叫"半角"字符了。 
中国人民看到这样很不错，于是就把这种汉字方案叫做 "GB2312"。GB2312 是对 ASCII 的中文扩展。 
但是中国的汉字太多了，我们很快就就发现有许多人的人名没有办法在这里打出来，特别是某些很会麻烦别人的国家领导人。于是我们不得不继续把 GB2312 没有用到的码位找出来老实不客气地用上。 
后来还是不够用，于是干脆不再要求低字节一定是127号之后的内码，只要第一个字节是大于127就固定表示这是一个汉字的开始，不管后面跟的是不是扩展字 符集里的内容。结果扩展之后的编码方案被称为 GBK 标准，GBK 包括了 GB2312 的所有内容，同时又增加了近20000个新的汉字（包括繁体 字）和符号。 
后来少数民族也要用电脑了，于是我们再扩展，又加了几千个新的少数民族的字，GBK 扩成了 GB18030。从此之后，中华民族的文化就可以在计算机时代中传承了。 
中国的程序员们看到这一系列汉字编码的标准是好的，于是通称他们叫做 "DBCS"（Double Byte Charecter Set 双字节字符 集）。在DBCS系列标准里，最大的特点是两字节长的汉字字符和一字节长的英文字符并存于同一套编码方案里，因此他们写的程序为了支持中文处理，必须要注 意字串里的每一个字节的值，如果这个值是大于127的，那么就认为一个双字节字符集里的字符出现了。那时候凡是受过加持，会编程的计算机僧侣们都要每天念 下面这个咒语数百遍： 
"一个汉字算两个英文字符！一个汉字算两个英文字符……" 

因为当时各个国家都像中国这样搞出一套自己的编码标准，结果互相之间谁也不懂谁的编码，谁也不支持别人的编码，连大陆和台湾这样只相隔了150海 里，使用着同一种语言的兄弟地区，也分别采用了不同的 DBCS 编码方案——当时的中国人想让电脑显示汉字，就必须装上一个"汉字系统"，专门用来处理 汉字的显示、输入的问题，但是那个台湾的愚昧封建人士写的算命程序就必须加装另一套支持 BIG5 编码的什么"倚天汉字系统"才可以用，装错了字符系 统，显示就会乱了套！这怎么办？而且世界民族之林中还有那些一时用不上电脑的穷苦人民，他们的文字又怎么办？ 
真是计算机的巴比伦塔命题啊！ 
正在这时，大天使加百列及时出现了——一个叫 ISO （国际标谁化组织）的国际组织决定着手解决这个问题。他们采用的方法很简单：废了所有的地区性编码 方案，重新搞一个包括了地球上所有文化、所有字母和符号的编码！他们打算叫它"Universal Multiple- Octet Coded Character Set"，简称 UCS, 俗称 "UNICODE"。 
UNICODE 开始制订时，计算机的存储器容量极大地发展了，空间再也不成为问题了。于是 ISO 就直接规定必须用两个字节，也就是16位来统一表示 所有的字符，对于ascii里的那些“半角”字符，UNICODE 包持其原编码不变，只是将其长度由原来的8位扩展为16位，而其他文化和语言的字符则 全部重新统一编码。由于"半角"英文符号只需要用到低8位，所以其高8位永远是0，因此这种大气的方案在保存英文文本时会多浪费一倍的空间。 
这时候，从旧社会里走过来的程序员开始发现一个奇怪的现象：他们的strlen函数靠不住了，一个汉字不再是相当于两个字符了，而是一个！是的， 从 UNICODE 开始，无论是半角的英文字母，还是全角的汉字，它们都是统一的"一个字符"！同时，也都是统一的"两个字节"，请注意"字符"和"字 节"两个术语的不同，“字节”是一个8位的物理存贮单元，而“字符”则是一个文化相关的符号。在UNICODE 中，一个字符就是两个字节。一个汉字算两 个英文字符的时代已经快过去了。 
从前多种字符集存在时，那些做多语言软件的公司遇上过很大麻烦，他们为了在不同的国家销售同一套软件，就不得不在区域化软件时也加持那个双字节字符集咒 语，不仅要处处小心不要搞错，还要把软件中的文字在不同的字符集中转来转去。UNICODE 对于他们来说是一个很好的一揽子解决方案，于是 从 Windows NT 开始，MS 趁机把它们的操作系统改了一遍，把所有的核心代码都改成了用 UNICODE 方式工作的版本，从这时开 始，WINDOWS 系统终于无需要加装各种本土语言系统，就可以显示全世界上所有文化的字符了。 
但是，UNICODE 在制订时没有考虑与任何一种现有的编码方案保持兼容，这使得 GBK 与UNICODE 在汉字的内码编排上完全是不一样的，没有一种简单的算术方法可以把文本内容从UNICODE编码和另一种编码进行转换，这种转换必须通过查表来进行。 
如前所述，UNICODE 是用两个字节来表示为一个字符，他总共可以组合出65535不同的字符，这大概已经可以覆盖世界上所有文化的符号。如果还不够 也没有关系，ISO已经准备了UCS-4方案，说简单了就是四个字节来表示一个字符，这样我们就可以组合出21亿个不同的字符出来（最高位有其他用途）， 这大概可以用到银河联邦成立那一天吧！ 

UNICODE 来到时，一起到来的还有计算机网络的兴起，UNICODE 如何在网络上传输也是一个必须考虑的问题，于是面向传输的众 多 UTF（UCS Transfer Format）标准出现了，顾名思义，UTF8就是每次8个位传输数据，而UTF16就是每次16个位，只不过为 了传输时的可靠性，从UNICODE到UTF时并不是直接的对应，而是要过一些算法和规则来转换。 
受到过网络编程加持的计算机僧侣们都知道，在网络里传递信息时有一个很重要的问题，就是对于数据高低位的解读方式，一些计算机是采用低位先发送的方法，例 如我们PC机采用的 INTEL 架构，而另一些是采用高位先发送的方式，在网络中交换数据时，为了核对双方对于高低位的认识是否是一致的，采用了一种很 简便的方法，就是在文本流的开始时向对方发送一个标志符——如果之后的文本是高位在位，那就发送"FEFF"，反之，则发送"FFFE"。不信你可以用二 进制方式打开一个UTF-X格式的文件，看看开头两个字节是不是这两个字节？ 

讲到这里，我们再顺便说说一个很著名的奇怪现象：当你在 windows 的记事本里新建一个文件，输入"联通"两个字之后，保存，关闭，然后再次打开，你会发现这两个字已经消失了，代之的是几个乱码！呵呵，有人说这就是联通之所以拼不过移动的原因。 
其实这是因为GB2312编码与UTF8编码产生了编码冲撞的原因。 
从网上引来一段从UNICODE到UTF8的转换规则： 

 

Unicode 
UTF-8 

0000 - 007F 
0xxxxxxx 

0080 - 07FF 
110xxxxx 10xxxxxx 

0800 - FFFF 
1110xxxx 10xxxxxx 10xxxxxx 

 

例如"汉"字的Unicode编码是6C49。6C49在0800-FFFF之间，所以要用3字节模 板：1110xxxx 10xxxxxx 10xxxxxx。将6C49写成二进制是：0110 1100 0100 1001，将这个比特流按三字节模 板的分段方法分为0110 110001 001001，依次代替模板中的x，得到：1110-0110 10-110001 10-001001，即 E6 B1 89，这就是其UTF8的编码。 
而当你新建一个文本文件时，记事本的编码默认是ANSI, 如果你在ANSI的编码输入汉字，那么他实际就是GB系列的编码方式，在这种编码下，"联通"的内码是： 
c1 1100 0001 
aa 1010 1010 
cd 1100 1101 
a8 1010 1000 
注意到了吗？第一二个字节、第三四个字节的起始部分的都是"110"和"10"，正好与UTF8规则里的两字节模板是一致的，于是再次打开记事本时，记事 本就误认为这是一个UTF8编码的文件，让我们把第一个字节的110和第二个字节的10去掉，我们就得到了"00001 101010"，再把各位对齐， 补上前导的0，就得到了"0000 0000 0110 1010"，不好意思，这是UNICODE的006A，也就是小写的字母"j"，而之后的两字节 用UTF8解码之后是0368，这个字符什么也不是。这就是只有"联通"两个字的文件没有办法在记事本里正常显示的原因。 
而如果你在"联通"之后多输入几个字，其他的字的编码不见得又恰好是110和10开始的字节，这样再次打开时，记事本就不会坚持这是一个utf8编码的文件，而会用ANSI的方式解读之，这时乱码又不出现了。 

好了，终于可以回答NICO的问题了，在数据库里，有n前缀的字串类型就是UNICODE类型，这种类型中，固定用两个字节来表示一个字符，无论这个字符是汉字还是英文字母，或是别的什么。 
如果你要测试"abc汉字"这个串的长度，在没有n前缀的数据类型里，这个字串是7个字符的长度，因为一个汉字相当于两个字符。而在有n前缀的数据类型里，同样的测试串长度的函数将会告诉你是5个字符，因为一个汉字就是一个字符。 

字符集编码ANSI和UNICODE 
本文为原创,参考了一些网上的资料. 

编码指不同国家的语言在计算机中的一种存储和解释规范 
ANSI与ASCII 

n最初，Internet上只有一种字符集——ANSI的ASCII字符集 (American Standard Code for Information Interchange， “美国信息交换标准码），它使用 7 bits来表示一个字符，总共表示128个字符，后来IBM公司在此基础上进行了扩展，用8bit来表示一个字符，总共可以表示256个字符，充分利 用了一个字节所能表达的最大信息 
nANSI字符集：ASCII字符集，以及由此派生并兼容的字符集，如：GB2312，正式的名称为MBCS（Multi-Byte Chactacter System，多字节字符系统），通常也称为ANSI字符集。 

UNICODE与UTF8，UTF16 

n由于每种语言都制定了自己的字符集，导致最后存在的各种字符集实在太多，在国际交流中要经常转换字符集非常不便。因此，产生了Unicode字符集，它固定使用16 bits（两个字节）来表示一个字符，共可以表示65536个字符 
n标准的Unicode称为UTF-16(UTF:UCS Transformation Format )。后来为了双字节的Unicode能够在现存 的处理单字节的系统上正确传输，出现了UTF-8，使用类似MBCS的方式对Unicode进行编码。(Unicode字符集有多种编码形式) 
例如“连通”两个字的Unicode标准编码UTF-16 (big endian）为：DE 8F 1A 90 
而其UTF-8编码为：E8 BF 9E E9 80 9A 

n当一个软件打开一个文本时，它要做的第一件事是决定这个文本究竟是使用哪种字符集的哪种编码保存的。软件一般采用三种方式来决定文本的字符集和编码： 
检测文件头标识，提示用户选择，根据一定的规则猜测 
最标准的途径是检测文本最开头的几个字节，开头字节 Charset/encoding,如下表： 
EF BB BF UTF-8 
FE FF UTF-16/UCS-2, little endian 
FF FE UTF-16/UCS-2, big endian 
FF FE 00 00 UTF-32/UCS-4, little endian. 
00 00 FE FF UTF-32/UCS-4, big-endian.