压缩列表(ziplist)是列表键和哈希键的底层实现之一。
当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来作为列表键的底层实现。
当一个哈希键只包含少量键值对,并且每个键值对的键和值要么就是小整数值,要么就是长度较短的字符串时,那么Redis就会使用压缩列表来做哈希键的底层实现。
7.1 压缩列表的构成
压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。
压缩列表的各个组成部分:
示例:
0x3c(十六进制):3*16+12 = 60(十进制)
7.2 压缩列表节点的构成
每个压缩列表节点可以保存一个字节数组或者一个整数值。
字节数组可以是以下三种长度的其中一种:
而整数值可以是以下6种长度的其中一种:
每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成:
7.2.1 previous_entry_length
节点的previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。previous_entry_length 属性的长度可以是1字节或者5字节:
如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节;
如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),之后的4个字节则用于保存前一节点的长度。
因为节点的previous_entry_length属性记录了前一节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址来计算出前一节点的起始地址。(压缩列表从表尾向表头遍历操作就是使用这一原理实现的)
7.2.2 encoding
节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:
一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;
所有可用的字节数组编码:(表格中下划线”_”表示留空,而b、x等变量代表实际的二进制数据)
所有可用的整数编码:
7.2.3 content
节点的content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。
上图中,编码的最高两位00表示节点保存的是一个字节数组;编码的后6位001011记录了字节数组的长度11;
7.3 连锁更新
考虑这样一种情况:在一个压缩列表中,有多个连续的、长度介于250字节到253字节(皆小于254字节)之间的节点e1至eN。
因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous_entry_length属性。
这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点。
e1节点的previous_entry_length属性仅长1个字节,没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并将e1节点的previous_entry_length属性从原来的1字节扩展为5字节长。
由于e1的长度增加,又会导致后续节点的previous_entry_length增加,如此一直扩展下去,程序需要不断地对压缩列表执行空间重分配操作,直到eN为止。
Redis将这种在特殊情况下产生的连续多次空间扩展操作称为“连锁更新(cascade update)”。
除此之外,删除节点也有可能会引发连锁更新。
考虑如果small、e1-eN都是大小介于250字节至253字节的节点,big节点的长度大于等于254字节。
因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N2)。
注意,尽管连锁更新的复杂度较高,但是真正造成性能问题的几率是很低的,ziplistPush等命令的平均复杂度仅为O(N)。
注:redis 3.2以后,quicklist作为列表键的实现底层实现之一,代替了压缩列表。
7.4 压缩列表API
重点回顾
- 压缩列表是一种为节约内存而开发的顺序型数据结构。
- 压缩列表被用作列表键和哈希键的底层实现之一。
- 压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值。
- 添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作,但这种操作出现的几率并不高。