文章目录
Redis 内存回收
Redis之所以性能强,最主要的原因就是基于内存存储。然而单节点的Redis其内存大小不宜过大,会影响持久化或主从同步性能。
我们可以通过修改配置文件来设置Redis的最大内存:
当内存使用达到上限时,就无法存储更多数据了。为了解决这个问题,Redis提供了一些策略实现内存回收:内存过期策略和内存淘汰策略
过期策略
在向Redis中添加数据的时候,可以通过expire命令来给key设置TTL,TLL过期后对于内存也就被释放了。
Redis是通过key-value的非关系型的内存数据库,所有的key和value都保存在之前学习过的Dict的结构中,不过在Redis的中有多个db,可以理解为命名空间,来对一些数据做隔离。通过一个结构体redisDb
来描述。
其实在redisDb中有两个Dict:一个用来记录key-value;另一个用来记录key-TTL。
typedef struct redisDb {
dict *dict; /* 存放所有key和value的地方,keyspace */
dict *expires; /* 存放包含TTL的key和其TTL */
dict *blocking_keys; /* Keys with clients waiting for data (BLPOP)*/
dict *ready_keys; /* Blocked keys that received a PUSH */
dict *watched_keys; /* WATCHED keys for MULTI/EXEC CAS */
int id; /* Database ID */
long long avg_ttl; /* 记录平均TTL时长 */
unsigned long expires_cursor; /* expire检查时在dict中抽样的索引位置 */
list *defrag_later; /* 等待碎片整理的key列表. */
} redisDb;
内存结构如图
Redis采用惰性删除和周期删除两种方式来进行删除
-
惰性删除:
Redis惰性删除,顾明思议并不是在TTL到期后就立刻删除,而是在访问一个key的时候(查询),检查该key的存活时间,如果已经过期才执行删除。
-
周期删除
周期删除是通过一个定时任务,周期性的随机取出部分key,并将过期的key进行删除。执行周期有两种:
- Redis服务初始化函数initServer()中设置定时任务,按照server.hz的频率来执行过期key清理,模式为SLOW
- Redis的每个事件循环前会调用beforeSleep()函数,执行过期key清理,模式为FAST
SLOW模式规则:
- 执行频率受server.hz影响,默认为10,即每秒执行10次,每个执行周期100ms。
- 执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms
- 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
- 如果没达到时间上限(25ms)并且过期key比例大于10%,再进行一次抽样,否则结束
FAST模式规则(过期key比例小于10%不执行 ):
- 执行频率受beforeSleep()调用频率影响,但两次FAST模式间隔不低于2ms
- 执行清理耗时不超过1ms
- 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
- 如果没达到时间上限(1ms)并且过期key比例大于10%,再进行一次抽样,否则结束
淘汰策略
Redis支持8种不同策略来选择要删除的key:
- noeviction: 不淘汰任何key,但是内存满时不允许写入新数据,默认就是这种策略。
- volatile-ttl: 对设置了TTL的key,比较key的剩余TTL值,TTL越小越先被淘汰
- allkeys-random:对全体key ,随机进行淘汰。也就是直接从db->dict中随机挑选
- volatile-random:对设置了TTL的key ,随机进行淘汰。也就是从db->expires中随机挑选。
- allkeys-lru: 对全体key,基于LRU算法进行淘汰
- volatile-lru: 对设置了TTL的key,基于LRU算法进行淘汰
- allkeys-lfu: 对全体key,基于LFU算法进行淘汰
- volatile-lfu: 对设置了TTL的key,基于LFU算法进行淘汰
其中不太好区分的的两个策略:
- LRU(Least Recently Used),最少最近使用。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。
- LFU(Least Frequently Used),最少频率使用。会统计每个key的访问频率,值越小淘汰优先级越高。
如下redisObject结构体中就专门有一个属性来描述LRU和LFU。
- 这个属性占24个字节,可以是LRU或者LFU
- LRU:以秒为单位记录最近一次访问时间,长度24bit
- LFU:高16位以分钟为单位记录最近一次访问时间,低8位记录逻辑访问次数
#define LRU_BITS 24
typedef struct redisObject {
unsigned type:4;
unsigned encoding:4;//底层编码方式
unsigned lru:LRU_BITS; // 最久未使用的,便于回收长时间未使用的key
int refcount;// 对象引用计数,用于回收对象
void *ptr;//指针,指向存放实际数据的空间
} robj;
LFU的访问次数之所以叫做逻辑访问次数,是因为并不是每次key被访问都计数,而是通过运算:
- 生成0~1之间的随机数R
- 计算 (旧次数 * lfu_log_factor + 1),记录为P
- 如果 R < P ,则计数器 + 1,且最大不超过255
- 访问次数会随时间衰减,距离上一次访问时间每隔 lfu_decay_time 分钟,计数器 -1