今天我们来说一说redis中的删除策略
过期数据
Redis的数据特征
- Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态
- XX:具有时效性的数据
- -1:永久有效的数据
- -2:已经过期的数据 或 被删除的数据 或 未定义的数据
那么 过期的数据真的删除了吗?
答案是否定的,针对时效性数据,redis有3种删除策略
数据删除策略
- 定时删除
- 惰性删除
- 定期删除
时效性数据的存储结构
在redis的存储空间中开辟出了一块expires区用于保存时效性数据
数据删除策略的目标
在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或内存泄露(控制的都是时效性的数据)
定时删除
创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作
-
优点:节约内存,到时就删除,快速释放掉不必要的内存占用
-
缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量
-
总结:用处理器性能换取存储空间(拿时间换空间)
惰性删除
- 数据到达过期时间,不做处理。等下次访问该数据时
- 如果未过期,返回数据
- 发现已过期,删除,返回不存在
- 优点:节约CPU幸能,发现必须删除的时候才删除
- 缺点:内存压力很大,出现长期占用内存的数据
- 总结:用存储空间换取处理器性能
定期删除
-
Redis启动服务器初始化时,读取配置server.hz的值,默认为10
-
每秒钟执行server.hz次 serverCron()(服务器每秒多少次) -> databasesCron()(一个一个检查完) -> activeExpireCycle()(检查任意一个)
-
activeExpireCycle()对每个expires[*]逐一进行检测,每次执行250ms/server.hz
-
对某个expires[*]检测时,随机挑选W个key检测
- 如果key超时,删除key
- 如果一轮中删除的key的数量>W*25%,循环该过程
- 如果一轮中删除的key的数量<=W*25%,检查下一个expires[ *],0-15循环
- W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值
-
参数current_db用于记录activeExpireCycle()进入哪个expires[ *]执行
-
如果activeExpireCycle()执行到期,下次从current_db继续向下执行
-
周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度
-
特点1:CPU性能占用设置有峰值,检测频度可自定义设置
-
特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理
-
总结:周期性抽查存储空间(随机抽查,重点抽查)
删除策略比对
- 定时删除 节约内存,无占用 不分时段占用CPU资源,频度高 拿时间换空间
- 惰性删除 内存占用严重 延时执行,CPU利用率高 拿空间换时间
- 定期删除 内存定期随机清理 每秒花费固定的CPU资源维护内存 随机抽查,重点抽查
redis的过期策略以及内存淘汰机制:
回答:redis采用的是定期删除+惰性删除的方式
为什么不用定时删除策略?
定时删除,用一个定时器来负责监视key,过期则自动删除。虽然内存及时释放,但是十分消耗CPU资源。在大并发请求下,CPU要将时间应用在处理请求,而不是删除key,因此没有采用这一策略。
逐出算法
当新数据进入redis时,内存不足怎么办?
-
Redis使用内存存储数据,在执行每一个命令前,会调用freeMemorylfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法。
-
注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所有数据尝试完毕后,如果不能达到内存清理的要求,将出现错误信息。
-
最大可用内存
maxmemory
占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上。
- 每次选取待删除数据的个数
maxmemory-samples
选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据
- 删除策略
maxmemory-policy
达到最大内存后的,对被挑选出来的数据进行删除的策略
影响数据逐出的相关配置
- 检测易失数据(可能会过期的数据集server.db[i].expires)
- volatile-lru(Least Recently Used):挑选最近最久未使用的数据淘汰
- volatile-lfu(Least Frequently Used):挑选最近使用次数最少的数据淘汰
- volatile-ttl:挑选将要过期的数据淘汰
- volatile-random:任意选择数据淘汰
- 检测全库数据(所有数据集server.db[i].expires)
- allkeys-lru:挑选最近最久未使用的数据淘汰
- allkeys-lfu:挑选最近使用次数最少的数据淘汰
- allkeys-random:任意选择数据淘汰
- 放弃数据驱逐
- no-enviction(驱逐):禁止驱逐数据(Redis4.0默认策略),会引发错误(OOM)
maxmemory-policy volatile-lru
数据逐出策略配置依据
- 使用info命令输出监控信息,查询缓存keyspace_hits(命中)和keyspace_misses的次数,根据业务需求调优Redis配置
再来一些redis常用的配置
redis.conf
服务器基础配置
服务器端配置
- 设置服务器以守护进程的方式运行
daemonize yes|no
- 绑定主机地址
bind 127.0.0.1
- 设置服务器端口号
port 6379
- 设置数据库数量
databases 16
日志配置
- 设置服务器以指定日志记录级别
loglevel debug|verbose|notice|warning
- 日志记录文件名
logfile 端口号.log
注意:日志级别开发期设置为verbose即可,生产环境中配置为notice,简化日志输出量,降低写日志IO的频度
客户端配置
- 设置同一时间最大客户端连接数,默认无限制。当客户端连接到达上限,Redis会关闭新的连接
maxclients 0
- 客户端闲置等待最大时长,达到最大值后关闭连接。如需关闭该功能,设置为0
timeout 300
多服务器快捷配置
- 导入并加载指定配置文件信息,用于快速创建redis公共配置较多的redis实例配置文件,便于维护
include /path/server-端口号.conf
多服务器快捷配置
- 导入并加载指定配置文件信息,用于快速创建redis公共配置较多的redis实例配置文件,便于维护
本次的内容就到这里啦!感谢b站it黑马老师讲的redis,附链接:https://www.bilibili.com/video/BV1CJ411m7Gc?p=112&t=647