常用的缓存淘汰策略有以下
先进先出算法(FIFO)
Least Frequently Used(LFU)
淘汰一定时期内被访问次数最少的页面,以次数作为参考
Least Recently Used(LRU)
淘汰最长时间未被使用的页面,以时间作为参考
这些算法在不同层次的缓存上执行时拥有不同的效率和代价,需根据具体场合选择最合适的一种。
LFU
1、新加入数据插入到队列尾部(因为引用计数为1);
2、 队列中的数据被访问后,引用计数增加,队列重新排序;
3、当需要淘汰数据时,将已经排序的列表最后的数据块删除。
LRU
1、新数据插入到链表头部;
2、每当缓存命中(即缓存数据被访问),则将数据移到链表头部;
3、当链表满的时候,将链表尾部的数据丢弃。
LRU和LFU对比:
LRU新插入就是在链表头部,并且有被访问就移动到链表头部
LFU新插入在链表尾部,有被访问就向前移动一位
过期策略通常有以下三种:
- 定时过期:每个设置过期时间的key都需要创建一个定时器,到过期时间就会立即清除。该策略可以立即清除过期的数据,对内存很友好;但是会占用大量的CPU资源去处理过期的数据,从而影响缓存的响应时间和吞吐量。
- 惰性过期:只有当访问一个key时,才会判断该key是否已过期,过期则清除。该策略可以最大化地节省CPU资源,却对内存非常不友好。极端情况可能出现大量的过期key没有再次被访问,从而不会被清除,占用大量内存。
- 定期过期:每隔一定的时间,会扫描一定数量的数据库的expires字典中一定数量的key,并清除其中已过期的key。该策略是前两者的一个折中方案。通过调整定时扫描的时间间隔和每次扫描的限定耗时,可以在不同情况下使得CPU和内存资源达到最优的平衡效果。(expires字典会保存所有设置了过期时间的key的过期时间数据,其中,key是指向键空间中的某个键的指针,value是该键的毫秒精度的UNIX时间戳表示的过期时间。键空间是指该Redis集群中保存的所有键。)
Redis中同时使用了惰性过期和定期过期两种过期策略。
Redis 缓存淘汰策略
8 中淘汰策略:
1 种不进行淘汰策略: noeviction
7 种进行淘汰策略,按照是否设置过期时间,进行数据集淘汰进行分类
- noeviction 不进行数据淘汰,当 Redis 缓存使用超过 maxmemory,不进行数据淘汰,同时 Redis 不在提供写服务。一般不使用这个配置策略。
有设置过期时间: volatile-random, volatile-ttl, volatile-lru, volatile-lfu 在设置了过期时间的数据集中进行淘汰
- volatile-ttl 按照过期时间的先后顺序进行数据删除
- volatile-random 在设置过期时间的数据集中随机删除
- volatile-lru 依据 LRU 算法筛选过期时间数据进行删除
- volatile-lfu 依据 LFU 算法筛选过期时间数据进行删除
未设置过期时间: allkeys-random, allkeys-lru, allkeys-lfu 进行全局数据范围淘汰
- allkeys-random 从所有键值对中随机淘汰
- allkeys-lru 依据 LRU 算法筛选所有数据进行淘汰
- allkeys-lfu 依据 LFU 算法筛选所有数据进行淘汰