一、定义
压缩列表是哈希键以及列表键的底层实现之一。当一个列表键只包含少量的列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。
例如:执行以下命令将创建一个压缩列表实现的列表键:
127.0.0.1:6379> RPUSH 1st 1 3 5 10086 "hi" "Zhang"
(integer) 6
127.0.0.1:6379> OBJECT ENCODING 1st
"ziplist"
127.0.0.1:6379>
列表键里面包含的都是1、3、5之类的小整数值,或者“hello”这种短字符串。
另外,当一个哈希键只包含少量键值对,并且每个键值对的键和值要么是小整数值,要么是短字符串,那么Redis就会使用压缩列表来做哈希键的底层实现。
举个例子如下:
127.0.0.1:6379> HMSET profile "name" "ZhangSan" "age" "3" "job" "haizi"
OK
127.0.0.1:6379> OBJECT ENCODING profile
"ziplist"
127.0.0.1:6379>
下面将对压缩列表进行详细介绍。
1.1 压缩列表的构成
压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。
下图展示了压缩列表的各个组成部分:
压缩列表各个组成部分的详细说明:
下图展示一个压缩列表示例:
1.列表zlbytes属性的值为0x50(十进制80),表示压缩列表的总长为80字节。
2.列表zltail属性的值为0x3c(十进制60),这表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量60,就可以计算出表尾节点entry3的地址。
3.列表zllen属性的值为0x3(十进制3),表示压缩列表包含三个节点。
下面展示另外一个包含五个节点的压缩列表:
1.列表zlbytes属性的值为0xd2(十进制210),表示压缩列表的总长为210字节。
2.列表zltail属性的值为0xb3(十进制179),这表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量179,就可以计算出表尾节点entry5的地址。
3.列表zllen属性的值为0x5(十进制5),表示压缩列表包含五个节点。
1.2 压缩列表节点的构成
每个压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下长度的其中一种:
1.长度小于等于63(2^6 - 1)字节的字节数组;
2.长度小于等于16383(2^14 - 1)字节的字节数组;
3.长度小于等于4294967295(2^32 - 1)字节的字节数组;
而整数值则可以是以下六种长度的其中一种:
*.4位长,介于0至12之间的无符号整数;
*.1字节长的有符号;
*.3字节长的有符号整数;
*.int16_t类型整数;
*.int32_t类型整数;
*.int64_t类型整数。
每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成,示例如下:
1.2.1 previous_entry_length
节点的previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。previous_entry_length属性的长度可以是1字节或者5字节:
如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。
如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制254),而之后的四个字节则用于保存前一节点的长度。
下图展示了一个包含一字节长previous_entry_length属性的压缩列表节点,属性值为0x05,表示前一节点的长度为5字节。
下图展示了一个包含五字节长previous_entry_length属性的压缩节点,属性的值为0xFE00002766,其中值的最高位字节0xFE表示这是一个五字节长的previous_entry_length属性,而之后的四字节0x00002766(十进制10086)才是前一字节的实际长度。
因为节点的previous_entry_length属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址来计算出前一节点的起始地址。
举个例子,如果我们有一个指向当前节点起始地址的指针c,那么我们只要用指针c减去当前节点previous_entry_length属性的值,就可以得出一个指向前一个节点起始地址的指针p,示例如下:
压缩列表的从表尾向表头遍历操作就是使用这一原理实现的,只要我们拥有一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous_entry_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。
下面展示一个从表尾节点向表头结点进行遍历的完整过程:
1.首先,我们拥有指向压缩列表表尾节点entry4起始地址的指针p1(指向表尾节点的指针可以通过指向压缩列表起始地址的指针加上zltail属性的值得出);
2.通过用p1将去entry4节点previous_entry_length属性的值,我们得到一个指向entry4前一节点的entry3起始地址的指针p2;
以此类推。。。
1.2.2 encoding
节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:
一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;
下表记录了所有可用的字节数组编码,表格中的下划线表示留空,而b、x等变量则代表实际的二进制数据,为了方便阅读,多个字节之间用空格隔开:
字节数组编码
整数编码
1.2.3 content
节点的content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。
下图展示了一个保存字节数组的节点示例:
1.编码的最高两位00表示节点保存的是一个字节数组;
2.编码的后六位001011记录了字节数组的长度为11;
3.content属性保存着节点的值:hello world。
下图展示了一个保存着整数值的节点示例:
1.编码11000000表示节点保存的是一个int16_t类型的整数值;
2.content属性保存着节点的值10086。
1.3 连锁更新
前面说过,每个节点的previous_ent_length属性都记录了前一个节点的长度;
如果前面一个节点的长度小于254字节,那么previous_ent_length属性需要用1字节长的空间来保存在这个长度值。
如果前一节点的长度大于等于254字节,那么previous_ent_length属性需要用5字节长的空间来保存这个长度值。
现在,考虑这样一种情况:在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN,如下图所示。
因为所有节点长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous_ent_length属性。这时,如果我们讲一个长度大于等于254字节的新节点new设置为压缩列表的的表头节点,那么new将成为e1的前置节点,如下图所示:
因为e1的previous_ent_length属性为1字节,没法保存新节点的长度,所以程序对有压缩列表执行空间重分配操作,并将e1节点的previous_ent_length属性从原来的1字节长扩展为5字节长。
因为e1扩展了,原本其长度介于250到253字节之间,现在为254到257字节之间,而这种长度e2的previous_ent_length属性没法保存。则e2也需要进行扩展,以此类推,引发一系列扩展,程序需要不断地对压缩列表执行空间重分配操作,知道eN为止。
Redis将这种在特殊情况下产生的连续多次空间扩展操作称之为“连锁更新”(cascade update)。
除了添加新节点可能会引发连锁更新之外,有时候删除节点也会引发连锁更新。
因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配操作的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N^2)。
1.4 压缩列表API
因为ziplistPush、zipilistInsert、zipilistDelete、zipilistDeleteRange四个函数都有可能引发连锁更新,所以它们的最坏复杂度都是O(N^2)。