@Redis--数据删除与淘汰策略

10 篇文章 0 订阅

title: Redis
author: Xoni
tags:

  • Redis
    categories:
  • java学习
  • Redis
    abbrlink: bae4ff13

Redis高级

1.数据删除与淘汰策略

在这里插入图片描述

1.1 过期数据

1.1.1 Redis中的数据特征

Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

TTL返回的值有三种情况:正数,-1,-2

  • 正数:代表该数据在内存中还能存活的时间
  • -1:永久有效的数据
  • 2 :已经过期的数据 或被删除的数据 或 未定义的数据

删除策略就是针对已过期数据的处理策略,已过期的数据是真的就立即删除了吗?其实也不是,我们会有多种删除策略,是分情况的,在不同的场景下使用不同的删除方式会有不同效果,这也正是我们要将的数据的删除策略的问题

1.1.2 时效性数据的存储结构

**在Redis中,如何给数据设置它的失效周期呢?数据的时效在redis中如何存储呢?**看下图:

过期数据是一块独立的存储空间,Hash结构,field是内存地址,value是过期时间,保存了所有key的过期描述,在最终进行过期处理的时候,对该空间的数据进行检测, 当时间到期之后通过field找到内存该地址处的数据,然后进行相关操作。

1.2 数据删除策略

1.2.1 数据删除策略的目标

在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或内存泄露

针对过期数据要进行删除的时候都有哪些删除策略呢?

  • 1.定时删除
  • 2.惰性删除
  • 3.定期删除

1.2.2 定时删除

创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作

  • 优点:节约内存,到时就删除,快速释放掉不必要的内存占用
  • 缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量
  • 总结:用处理器性能换取存储空间(拿时间换空间)

![20211208195825.png](https://img-blog.csdnimg.cn/img_convert/3110a30dcae64cd00f02ad66abcf184a.png#clientId=ua0f6b7e8-2943-4&crop=0&crop=0&crop=1&crop=1&errorMessage=unknown error&from=paste&height=253&id=uca46655a&name=20211208195825.png&originHeight=361&originWidth=757&originalType=binary&ratio=1&rotation=0&showTitle=false&size=32863&status=error&style=shadow&taskId=u1a076d68-d4cb-400a-8567-da67c9fde00&title=&width=530.888916015625)

1.2.3 惰性删除

数据到达过期时间,不做处理。等下次访问该数据时,我们需要判断

  1. 如果未过期,返回数据
  2. 发现已过期,删除,返回不存在
  • 优点:节约CPU性能,发现必须删除的时候才删除
  • 缺点:内存压力很大,出现长期占用内存的数据
  • 总结:用存储空间换取处理器性能(拿空间换时间)

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-pjFwN0VD-1664365836929)(https://www.yuque.com/api/filetransfer/images?url=https%3A%2F%2Fblog-1259153703.cos.ap-nanjing.myqcloud.com%2Fimages%2F20211208195822.png&sign=d0553033a417e0e2ac10892d07b8c9c4be602946b080e79e602b90427953c9b6#crop=0&crop=0&crop=1&crop=1&from=url&id=kYf4l&originHeight=272&originWidth=516&originalType=binary&ratio=1&rotation=0&showTitle=false&status=done&style=shadow&title=)]

1.2.4 定期删除

定时删除和惰性删除这两种方案都是走的极端,那有没有折中方案?

我们来讲redis的定期删除方案:

  • Redis启动服务器初始化时,读取配置server.hz的值,默认为10
  • 每秒钟执行server.hz次serverCron()-------->databasesCron()--------->activeExpireCycle()
  • **activeExpireCycle()**对每个expires[*]逐一进行检测,每次执行耗时:250ms/server.hz
  • 对某个expires[*]检测时,随机挑选W个key检测

如果key超时,删除key

如果一轮中删除的key的数量>W*25%,循环该过程

如果一轮中删除的key的数量≤W25%,检查下一个expires[],0-15循环

W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值

  • 参数current_db用于记录activeExpireCycle() 进入哪个expires[*] 执行
  • 如果activeExpireCycle()执行时间到期,下次从current_db继续向下执行

![20211208195823.png](https://img-blog.csdnimg.cn/img_convert/a52969d1c0936c19515f6415a26fda32.png#clientId=ua0f6b7e8-2943-4&crop=0&crop=0&crop=1&crop=1&errorMessage=unknown error&from=paste&height=554&id=uce6415b9&name=20211208195823.png&originHeight=623&originWidth=506&originalType=binary&ratio=1&rotation=0&showTitle=false&size=48605&status=error&style=shadow&taskId=u238b25fa-81a7-4c77-aab6-e63af48cced&title=&width=449.77777777777777)

总的来说:定期删除就是周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度

  • 特点1:CPU性能占用设置有峰值,检测频度可自定义设置
  • 特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理
  • 总结:周期性抽查存储空间(随机抽查,重点抽查)

1.2.5 删除策略对比

1:定时删除

  • 节约内存,无占用,
  • 不分时段占用CPU资源,频度高,
  • 拿时间换空间

2:惰性删除

  • 内存占用严重
  • 延时执行,CPU利用率高
  • 拿空间换时间

3:定期删除

  • 内存定期随机清理
  • 每秒花费固定的CPU资源维护内存
  • 随机抽查,重点抽查

1.3 数据淘汰策略(逐出算法)

1.3.1 淘汰策略概述

什么叫数据淘汰策略?什么样的应用场景需要用到数据淘汰策略?

**当新数据进入redis时,如果内存不足怎么办?在执行每一个命令前,会调用freeMemoryIfNeeded()**检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法。

注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所有数据尝试完毕, 如不能达到内存清理的要求,将出现错误信息如下

(error) OOM command not allowed when used memory >'maxmemory'

1.3.2 策略配置

影响数据淘汰的相关配置如下:

1:最大可使用内存,即占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上

maxmemory ?mb

2:每次选取待删除数据的个数,采用随机获取数据的方式作为待检测删除数据

maxmemory-samples count

3:对数据进行删除的选择策略

maxmemory-policy policy

那数据删除的策略policy到底有几种呢?一共是3类8种

第一类:检测易失数据(可能会过期的数据集server.db[i].expires )

  • volatile-lru:挑选最近最少使用的数据淘汰
  • volatile-lfu:挑选最近使用次数最少的数据淘汰
  • volatile-ttl:挑选将要过期的数据淘汰
  • volatile-random:任意选择数据淘汰

![20211208195824.png](https://img-blog.csdnimg.cn/img_convert/520bb3ea639ce6b1d36dd8dc4a352c6d.png#clientId=ua0f6b7e8-2943-4&crop=0&crop=0&crop=1&crop=1&errorMessage=unknown error&from=paste&height=332&id=u9446160d&name=20211208195824.png&originHeight=373&originWidth=1195&originalType=binary&ratio=1&rotation=0&showTitle=false&size=103759&status=error&style=shadow&taskId=u9b39506a-0cff-4538-902c-8c29e5a2d1d&title=&width=1062.2222222222222)

第二类:检测全库数据(所有数据集server.db[i].dict )

  • allkeys-lru:挑选最近最少使用的数据淘汰
  • allkeLyRs-lfu::挑选最近使用次数最少的数据淘汰
  • allkeys-random:任意选择数据淘汰,相当于随机

第三类:放弃数据驱逐

  • no-enviction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发OOM(Out Of Memory)

注意:这些策略是配置到哪个属性上?怎么配置?如下所示

maxmemory-policy volatile-lru

数据淘汰策略配置依据

使用INFO命令输出监控信息,查询缓存 hit 和 miss 的次数,根据业务需求调优Redis配置

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

李莲花*

多谢多谢,来自一名大学生的感谢

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值