最近在看MongoDB中有提到BSON下面就来解释一下。
BSon是Binary JSON的简称,是一种类Json的一种二进制形式的存储格式。目前Bson主要被MongoDB(目前一个较为流行的非关系数据模型的开源数据库)使用于存储数据和网络数据交换。
下面进入正题,介绍一下BSon是怎么把一个个MongoDB的文档转换成二进制形式进行存储的,在此之前读者需要从BSon官网上大致了解一下其解释的规则,链接会在下面的参考资料中给出。
至于介绍的形式,当然是给出例子,为大家讲解每个转换的步骤。
在介绍转换步骤之前,读者需要了解BSon中有四种基本类型
名称 | 存储大小 | 说明 |
byte | 1 byte (8-bits) | 最小单位,只占有一个字节,一般对应于一个字符(用ASCII表示) |
int32 | 4 bytes (32-bit signed integer) | 32位整型占用4个字节 |
int64 | 8 bytes (64-bit signed integer) | 64位整型占用8个字节 |
double | 8 bytes (64-bit IEEE 754 floating point) | 双精度浮点型占8个字节,需要用IEEE 754的浮点型规则进行表示 |
高级类型:
document | ::= | int32 e_list "\x00" | BSON Document | 文档=文档的长度+元素列表+"\x00" |
e_list | ::= | element e_list | Sequence of elements | 元素列表=一个元素 + 元素列表 |
| | | "" | 或者是 "" | |
元素可以是不同类型,注意元素包含元素名,如"key":"value"的类型是"\x02",元素名是"key"。 | ||||
element | ::= | "\x01" e_name double | Floating point | "\x01"+元素名+double |
| | | "\x02" e_name string | UTF-8 string | \x02"+元素名+string |
| | | "\x03" e_name document | Embedded document | 嵌入文档(子文档) |
| | | "\x04" e_name document | Array | 数组,一种特殊的子文档 |
| | | "\x05" e_name binary | Binary data | 二进制数据 |
| | | "\x06" e_name | Undefined — Deprecated | 未使用的 |
| | | "\x07" e_name (byte*12) | 对象ID,即MongoDB中默认的"_id"的类型。12字节。 | |
| | | "\x08" e_name "\x00" | Boolean "false" | |
| | | "\x08" e_name "\x01" | Boolean "true" | |
| | | "\x09" e_name int64 | UTC datetime | |
| | | "\x0A" e_name | Null value | |
| | | "\x0B" e_name cstring cstring | Regular expression | |
| | | "\x0C" e_name string (byte*12) | DBPointer — Deprecated | |
| | | "\x0D" e_name string | JavaScript code | |
| | | "\x0E" e_name string | Symbol | |
| | | "\x0F" e_name code_w_s | JavaScript code w/ scope | |
| | | "\x10" e_name int32 | 32-bit Integer | |
| | | "\x11" e_name int64 | Timestamp | |
| | | "\x12" e_name int64 | 64-bit integer | |
| | | "\xFF" e_name | Min key | |
| | | "\x7F" e_name | Max key | |
e_name | ::= | cstring | Key name | |
string | ::= | int32 (byte*) "\x00" | String | 长度 + 内容 + '\0' |
cstring | ::= | (byte*) "\x00" | CString | 内容 + "\0' |
binary | ::= | int32 subtype (byte*) | Binary | 长度+二进制子类型的数据 |
subtype | ::= | "\x00" | Binary / Generic | 二进制数据的子类型的数据类型 |
| | | "\x01" | Function | |
| | | "\x02" | Binary (Old) | |
| | | "\x03" | UUID | |
| | | "\x05" | MD5 | |
| | | "\x80" | User defined | |
code_w_s | ::= | int32 string document | Code w/ scope |
要注意数组实际上也是一个子文档。如["apple", "banana"],实际上是{ "0" : "apple", "1" : "banana"}。
数组之所以用"0","1","2"...来表示第几号元素,这样存储是可以节省空间。因为如果使用int,则会用到4个字节,考虑到数组的元素个数一般比较少。用"0"来表示第0个元素,只使用2个字节的空间。
下面给出例子
例1:
1 {
2 "Name": "DataResearchLab",
3 "IsGreat":true,
4 "Feilds":["CloudComputing","NoSQL","BigData"]
5 }
先来说明一下这个例子,这个就是非关系型数据库中存放数据的形式,在BSon上的解释就是相当于一个Document。如果要用关系型数据库进行解释的话,这个就相当于一个记录,但是这个记录有自己的列名。继续解释上面的记录,最外面的"{}"相当于变成语言中"{}" 的作用,即表示一个范围,也就是说这里面的数据是作为一个整体需要进行存储的。里面的":"左面可以理解为是键值,即一个数据库中只有唯一的一个键值。顺便提一下,在BSon所有的键值都被视为cstring 类型(BSon存储的基本类型中的一种)。":"的右面是左面键值对应的值,这个值可以有很多形式,如布尔型,字符串,32位整型,浮点型,甚至是数组,JavaScript的代码,正则表达式或是在嵌套一个Document等等,具体有什么读者可以查看BSon官网的介绍。
再返回来看这个例子,照之前的解释,相当于用户想要在数据库中存储一个数据,这个数据包括三个数据项。其中键值"Name"对应存储的数据是字符串型的"DataResearchLab ",键值"IsGreat"对应存储的数据是布尔型数据true,键值"Feilds"对应存储的是一个数组型的数据"["CloudComputing","NoSQL","BigData"]"。
接下来进入正题,看看运用BSon是怎么把该数据转换成二进制形式在非关系数据库中存储的。数据被作为一个Document跟据BSon的规则(具体规则这里不给出,请查看BSon官网的规则说明)需要进一步进行分解为三项int32,e_list, "\x00"。
先来介绍一下int32。int32需要占用四个字节,但是这个有两点需要特别注意。第一点就是,Document解释成的int32是用来计算该Document的长度的,但这个长度包含本身自己int32四个字节的长度。以本例来算,总共的Document需要102个字节,这102个字节包括本身int32所占的四个字节和后面所解释出的所有的所需的字节长度,当然102个字节在一开始是没法算出来的,只有将该Document都解释完才会算出这个数据。第二点要说明的是,存储长度本身占有四个字节,而这四个字节需要高位存储。至于什么是高位存储,这里只给一个简单的解释,就是四个字节中的最低位字节对应到存储器的最高位,最高为的字节对应到存储器的最低位。本例中需要102个字节,对应到十六进制是"\x66\x00\x00\x00",而不是"\x00\x00\x00\x66"(这种存储形式是低位存储)。
接下来说一下"\x00"。这个对应过来的十六进制相当于是一个结束符,有点类似于程序设计语言中字符串类型最后的"\0"。表示该部分解释的结束。
下面介绍关键的部分e_list。e_list也只是BSon规则中的一个中间形式,即e_list需要进行进一步的解释。e_list的进一步解释成两部分。第一部分是element,第二部分是e_list或是""。先说一下第二部分,在此时第一步解释出的e_list需要将第二部分解释成e_list。为什么呢,因为例子中需要存储的并不只有"Name"一项,在其后面还有"IsGreat"和"Feilds"需要解释,换句话说e_list这一步需要进行递归,继续循环解释。那么什么是后e_list解释成""呢?当解释到最后一项"Fields"时,后面没有需要存储的数据项时,需要将其第二部分解释成"",这还需要注意一点的是""并不占用存储空间,也就是说它是没有长度的,可以理解为""在BSon的解释最后的形式中并不存在。
回来说第一部分element。需要说明的是element也是作为一个中间形式需要继续往下解释,element也是BSon中最丰富的解释,也就是说它可以被解释成很多的形式。而解释成哪种形式需要针对于存储数据的类型进行选择。注意这里存储数据的类型指的不是键值,因为前面已经说过BSon把所有的键值只解释成为cstring一种类型,这里说的存储数据类型是指与键值一一对应的数据的类型。这里"Name"所存储的类型是BSon基本存储类型中的"UTF-8 string"。后面"IsGreat"和"Fields"分别对应的是BSon基本存储类型中的"Boolean "true""和"Array"。
继续说"Name"部分的解释。前面一段已经说过其对应的是基本存储类型中的"UTF-8 string"。那么根据BSon的规则element需要解释成"\x02",e_name,string三部分。第一部分对应的是最后的存储形式,它代表了这种选择的类型,即"\x02"。第二部分e_name需要进一步唯一解释成cstring,即键值的类型。而cstring也需要进行唯一解释成(byte*)和"\x00"。(byte*)代表存储的是键值本身,即"Name"(这里不包括双引号"")。而"\x00"和之前的一样,代表这部分解释的结束。string跟上,需要唯一解释成int32,(byte*)和"\x00"三部分。下面来看这三部分。先来解释第二部分和第三部分,这两部分的含义和以前出现这两部分的含义是相似的,也就是说(byte*)代表存储了"DataResearchLab"(之前代表的是键值,这里代表的是数据值)。"\x00"代表了这部分的结束。第一部分这里也有一个int32的类型,但是绝对要注意的是这与Document中解释出的int32是不一样的。在Document中解释出来的int32用加粗字体说了两个注意事项,这里要说明stirng解释的int32和Document相同和不相同的地方。string解释出的int32同样是进行高位存储,但是不同点在于算出后面解释出二进制的长度不包括int32本身的四个字节。这个int32存储的是"\x10\x00\x00\x00",这包括"DataResearchLab"15个字节和结束符号"\x00"一个字节。
其实,到这里,对于"Name"键值这部分的存储已经介绍完毕,但是对于整个例子的存储还远没有结束。
读者应该还记得前面提到的e_list,它是递归循环的。第二个e_list同样的被解释成两部分,第一部分是element,第二部分是e_list。第一部分的element跟据数据类型是布尔型的"true"对应到BSon的规则解释成为"\x08",e_name,"\x01"。和之前介绍的这部分的类似"\x08"代表了这种对应关系的类型,而最后的"\x01"则代表为true(如果是false的布尔类型这部分对应的是"\x00")。e_name同样的被唯一解释,这里和"Name"部分一样,不再多说,请读者自己思考。第二部分是e_list同样的被解释成为两部分element和""(因为后面已经没有数据项了)。
对于element,由于对应的数据类型是"Array",将其解释成"\x04",e_name和Document。"\x04"和e_name的分析也请读者按照之前的讲述自己进行分析。对于后面出现的Document,完全是类似于例子最开始部分的那个Document进行解释,读者可以自行分析。但是这里出现了一个问题,因为数组中的数据项并没有相应的键值与其对应。其实不然,BSon是将数组元素的下标(从0开始)作为其键值的。这部分就转换成一个嵌套的Document,形式如下
1 {
2 "0":"CloudComputing",
3 "1":"NoSQL",
4 "2":"BigData"
5 }
接下来的步骤请读者自己分析。需要注意的一点是BSon对于数据的顺序是有严格区分的,数组中的顺序是有区别的。
最后这里给出本例子的解释过程和最后解释的二进制形式如下图所示,希望读者可以自己分析完后对照一下。
参考资料:
BSon官网解释规则:http://bsonspec.org/#/specification