1 动态字符串SDS
Redis构建了一种新的字符串结构,称之为简单动态字符串(Simple Dynamic String) 简称SDS
本质是一个结构体,相当于java的类 。
源码
struct __attribute__ ((__packed__)) sdshdr8 {
uint8_t len; /* used */
uint8_t alloc; /* excluding the header and null terminator */
unsigned char flags; /* 3 lsb of type, 5 unused bits */
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr16 {
uint16_t len; /* used */
uint16_t alloc; /* excluding the header and null terminator */
unsigned char flags; /* 3 lsb of type, 5 unused bits */
char buf[];
};
如图所示key = name,name占用4个字节,使用sds8来表示
SDS之所以叫动态字符串,是因为它具备动态扩容的能力,例如一个内容为hi的SDS
假如我们要给SDS追加一段,Amy,那么它会怎么样呢?
如果新字符串小于1M,则 新空间为扩展后字符串长度的两倍+1 ;
如果新字符串大于1M,则 新空间为扩展后字符串长度+1M+1 。称为内存预分配
可以减少内存申请的次数,提高效率。
将 ,Amy 加入到 hi 之后的结果如下图所示:
2 IntSet
IntSet是Redis中set集合的一种实现方式,基于 整数数组 来实现,并且具备长度可变、有序等特征。
源码
其中encoding包含三种模式,表示存储大小。
为了方便查找,Redis会将intset中所有的整数按照升序依次保存在contents数组中,结构如图:
现在,数组中每个数字都在int16 t的范围内,因此采用的编码方式是INTSET ENC INT16,每部分占用的字节大小为:
encoding:4字节
length:4字节
contents: 2字节*3 =6字节
IntSet升级
现在,假设有一个intset,元素为15,10,20),采用的编码是INTSET_ENC_INT16,则每个整数占2字节,我们向该其中添加一个数字:50000,这个数字超出了int16 t的范围,intset会自动升级编码方式到合适的大小。
升级步骤
倒叙防止数组元素覆盖。
intSet添加元素的源码
intset *intsetAdd(intset *is, int64_t value, uint8_t *success) {
// 获取当前值编码 16位? 32 ? 还是 64 呢?
uint8_t valenc = _intsetValueEncoding(value);
// 要插入的位置
uint32_t pos;
if (success) *success = 1;
/* Upgrade encoding if necessary. If we need to upgrade, we know that
* this value should be either appended (if > 0) or prepended (if < 0),
* because it lies outside the range of existing values. */
// 判断编码是否超过当前的intset编码
if (valenc > intrev32ifbe(is->encoding)) {
/* This always succeeds, so we don't need to curry *success. */
// 编码升级
return intsetUpgradeAndAdd(is,value);
} else {
/* Abort if the value is already present in the set.
* This call will populate "pos" with the right position to insert
* the value when it cannot be found. */
// 有没有set中的元素,与我的值是一样的?
// 采用二分查找,因为set中的是有序的从小到大。!
if (intsetSearch(is,value,&pos)) {
if (success) *success = 0;
return is;
}
// 数组扩容
is = intsetResize(is,intrev32ifbe(is->length)+1);
if (pos < intrev32ifbe(is->length)) intsetMoveTail(is,pos,pos+1);
}
// 插入新元素
_intsetSet(is,pos,value);
// 重置数组长度
is->length = intrev32ifbe(intrev32ifbe(is->length)+1);
return is;
}
Intset可以看做是特殊的整数数组,具备一些特点
1、 Redis会确保Intset中的元素唯一、有序
2、具备类型升级机制,可以节省内存空间
3、底层采用二分查找方式来查询
4、 一般使用在数据量不大的情况下。
3 Dict
Dict:字典保存键值对映射,相当于java中的map。
Dict由三部分组成,分别是: 哈希表 (DictHashTable)、哈希节点 (DictEntry) 、字典 (Dict)
当我们向Dict添加键值对时,Redis首先根据key计算出hash值(h),然后利用 h & sizemask 来计算元素应该存储到数组中的哪个索引位置。 插入元素时采用改的是头插法 !
字典
typedef struct dict {
dictType *type; // dict类型,内置不同的hash函数
void *privdata; // 私有数据,用于计算hash数组
dictht ht[2]; // Dict包含两个hash表,一个用于rehash
long rehashidx; /* rehash的进度,-1表示没有进行 */
int16_t pauserehash; /* rehash 是否暂停 1则暂停,0则继续 */
} dict;
Dict的扩容
Dict在每次新增键值对时都会检查负载因子(LoadFactor= used/size),满足以下两种情况时会触发哈希表扩容:
哈希表的 LoadFactor>=1,并且服务器没有执行 BGSAVE或者BGREWRITEAOF 等后台进程
哈希表的 LoadFactor > 5;
Dict的收缩
不管是扩容还是收缩,必须会创建新hash表,导致哈希表的size和sizemask变化,旧的表中的hash表都需要重新计算key4 ZipList
每次执行新增、查询、修改、删除操作时,都检查一下dict.rehashidx是否大于-1,如果是则将dict,hti0).tablerehashidx)的entry链表rehash到dict.ht1],并且将rehashidx++。直至dict.ht[0]的所有数据都rehash到dict.htl1
4 ZipList
ZipList 是一种特殊的“双端链表”,由一系列特殊编码的连续内存块组成。可以在任意一端进行压入/弹出操作,并且该操作的时间复杂度为 0(1)。
ZipList结构如下:
可以快速找到首尾节点然后进行插入和弹出。
千万不要插入过多的数据。防止成为大key
5 QuickList
问题1: ZipList虽然节省内存,但申请内存必须是连续空间,如果内存占用较多,申请内存效率很低。怎么办?
答:再加一层,将ZipList 通过链表进行连接起来,因此QuickList内部节点就是ZipList
为了避免QuickList中的每个ZipList中entry过多,Redis提供了一个配置项: ist-max-ziplist-size来限制。
如果值为正,则代表ZipList的允许的entry个数的最大值
如果值为负,则代表ZipList的最大内存大小,分5种情况:
-1:每个ZipList的内存占用不能超过4kb
-2:每个ZipList的内存占用不能超过8kb
-3:每个ZipList的内存占用不能超过16kb
-4:每个ZipList的内存占用不能超过32kb
-5:每个ZipList的内存占用不能超过64kb
系统默认为-2
QuickList的特点
1、是一个节点为ZipList的双端链表
2、节点采用zipList,解决了传统链表的内存占用问题
3、控制了zipList大小,解决连续内存空间申请效率问题
4、中间节点可以压缩,进一步节省了内存
6 SkipList
由于quickList和ziplist只能从头或者从尾遍历,不能随机查询。
skipList(跳表)首先是链表,但与传统链表相比有几点差异:
元素采用升序排序
一个节点包好多个指针,指针的跨度还不一样。
SkipList的特点
跳跃表是一个双向链表,每个节点都包含score和ele值
节点按照score值排序,score值一样则按照ele字典排序
每个节点都可以包含多层指针,层数是1到32之间的随机数
不同层指针到下一个节点的跨度不同,层级越高,跨度越大
增删改查效率与红黑树基本一致,实现却更简单
7 RedisObject
Redis中的任意数据类型的键和值都会被封装为一个Redisobject,也叫做Redis对象,源码如下
Redis中会根据存储的数据类型不同,选择不同的编码方式,共包含11种不同类型
常用的数据结构编码方式