String
Redis中不管什么类型的key都会转化成字节流,然后在服务端转换成String类型存储。String数据结构没有用C语言的字符数组来实现,而是采用了一种SDS(simple dynamic string)简单的动态字符串来实现的。
为什么不使用C语言中的字节数组?
C:char data[] = "zhangsan";
在C语言中,字符数组会自动拼接\0表示结尾,如果redis客户端传入的数据有\0,会导致\0后续数据丢失。
并且当我们需要判断字符串长度,或者对自负串追加等操作时,都需要从头开始去便利,直到\0再返回长度,
这样就会降低效率。SDS中有额外两个字段,len和alloc,表示长度和分配了多少空间,这样在获取长度时
可以直接返回len,在追加字符串时用alloc-len就能判断出是否有足够空间存储追击的字符串。
SDS数据结构:
redis 3.2 以前
struct sdshdr {
int len; //表示内容长度(字节),\0这种特殊字符也会记录进长度
int free; //表示buffer数组的剩余空间
char buf[]; //存储的内容
};
修改字符串时(append、setbit命令),会根据free剩余空间来判断是否进行扩容,比如修改前是zhangsan,len = 8 ,free = 0
把zhangsan修改为zhangsan123,增加的长度addlen=3,free不够存储,此时就会进行扩容
根据扩容规则:(len + addlen)* 2计算,扩容后的空间:(8 + 3)* 2 = 22 ;free :22 - 11 = 11
在扩容到1M后(也就是1024*1024字节),就不会再成倍去扩容,而是每次只扩容1M,比如在setbit时可以预先分配大一点的空间,避免频繁内存分配
redis 3.2 以后:
在3.2以前sdshdr中,len在64位系统中,通常占用4字节,一个字节8bit位,所以表示的范围是0-2的32次方-1,大概42亿,但大多数场景存储的数据是比较小的,并且String类型在Redis中应用非常广泛,所以在3.2以后对数据范围表示做了优化,例如:sdshdr5,表示范围是0-2的5次方-1。
typedef char * sds;
struct __attribute__ ((__packed__)) sdshdr5 {
unsigned char flags;
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr8 {
uint8_t len; //表示内容长度
uint8_t alloc; //表示给buffer分配了多少空间,alloc-len = free
unsigned char flags; //
char buf[]; //存储的内容
};
struct __attribute__ ((__packed__)) sdshdr16 {
uint16_t len;
uint16_t alloc;
unsigned char flags;
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr32 {
uint32_t len;
uint32_t alloc;
unsigned char flags;
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr64 {
........
sdshdr5中,在内空间是密集且连续的情况下,可以根据buffer的位置向前偏移一个字节来找到flags,flags中分为两部分,前三位表示类型,后五位表示业务数据的长度 ,这样就可以实现根据不同业务数据长度来选择创建对象的类型。
sdshdr8及以上类型中,flags中后五位是闲置未使用的
flags中的类型:
#define SDS_TYPE_5 0
#define SDS_TYPE_8 1
#define SDS_TYPE_16 2
#define SDS_TYPE_32 3
#define SDS_TYPE_64 4
RedisDB 数据结构
redis由 16个redisDb组成
typedef struct redisDb {
dict *dict; //用来存储键值对的数据字典
dict *expires; //存储过期时间的字典
dict *blocking_keys; //存储阻塞队列的处理
dict *ready_keys; //存储key和客户端之间的连接关系
dict *watched_keys; //存储事物处理
int id; //数据库索引
long long avg_ttl; //数据统计,遍历数据时使用
unsigned long expires_cursor;
list *defrag_later;
} redisDb;
dict:存储键值对的数据字典
typedef struct dict {
dictType *type; //dictType封装了一些方法,例如hash Function、keyCompare等
void *privdata;
dictht ht[2]; //2个hashTable,扩容时用来复制数据
long rehashidx;
unsigned long iterators;
} dict;
hashTable:封装了一些table属性
typedef struct dictht {
dictEntry **table;
unsigned long size; //数组大小
unsigned long sizemask; //=size-1,用来计算元素下标
unsigned long used; //hash表现有节点数量,used=size时会进行扩容
//扩容时不是一次性挪动数据,而是访问到时再挪动。
} dictht;
dictEntry:具体封装键值对的对象
typedef struct dictEntry {
void *key; //指针,指向SDS对象
union { //union,用来存储value
void *val; //指针,指向对应类型的redisObject,value对象
//void *表示可以指向任意的数据类型
uint64_t u64;
int64_t s64;
double d;
} v;
struct dictEntry *next; //链表指针,用来解决hash碰撞
} dictEntry;
redisObject:具体的value对象
typedef struct redisObject {
unsigned type:4; //表示当前Object的类型(String、List等)
//用来约束客户端命令的类型
unsigned encoding:4; //value的编码格式
unsigned lru:LRU_BITS;
int refcount; //引用计数法,用来管理内存
void *ptr; //真正存储数据的指针
} robj;
Redis 取模优化:
任意数 % 2的n次方 优化成
任意数 & (2的n次方 - 1)