redis大key优化

1.什么是大key以及可能造成的异常

1.1 什么大key

redis是key,val型存储结构,key允许的最大大小为512MB,空字符串也是有效的键。大key是指value很大(占用大内存)。
常见的大key,大致可以这么分(根据具体redis规格以及实际压测而定):
(1)单个String类型的Key大小
(2)集合类型数量以及整体内存

1.2 大key危害

(1)影响吞吐qps
redis是单线程执行命令,大key耗时相对长,压测会发现其占用整个请求处理时间长。qps要求高的场景,影响其他接口请求,甚至可能会触发上游请求超时。
(2)占用大量带宽,甚至引发网络阻塞
例如2MB的缓存,1000qps,1秒大约2000Mb的流量。
(3)阻塞工作线程
del删除大key,造成主库较长时间的阻塞并引发同步中断或主从切换;
(4)redis内存分布不均匀
Redis集群中的某个节点内存使用量超过其余节点,数据迁移以Ke为基本单元,故无法实现均衡各个节点上的内存。

2.怎么识别大key

2.1 各个云厂商提供的监控

例如阿里云: https://help.aliyun.com/zh/redis/user-guide/view-monitoring-data?spm=a2c4g.11186623.0.0.6f3bd584t9imPV
可以从阿里云的监控得到: (1)热点key (2)慢key,延时高的key。

2.2 redis自带工具

redis-cli --bigkeys

2.3 开源工具

3.优化大key

3.1 本地缓存

将更新频率低,但是使用量高的数据使用本地缓存替代redis,还可以加快访问速度。

3.2 大key拆分

(1)对于集合类型
若业务允许,可以将集合类型拆分成一个一个string类型,同时统一前缀,通过mget和mset来访问。
拆分两个或者多个集合。
(2)string类型
存储关键数据,剔除非关键数据,例如只存储用户的id,权限id,而非整个用户信息或权限信息

3.3 删除无用的数据

(1)每条数据都设置过期时间
(2)业务删除的数据,在redis中找个合适时间,例如每次上线,业务低频时间,进行删除。

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Redis的大key拆分是指将Redis中的大数据键分解成多个小的数据键来存储。这种做法的目的是为了在处理大数据键时降低内存占用和提高性能。 在Redis中,一个大数据键可能会占用大量的内存空间,并且影响到操作的效率。因此,拆分大key可以帮助我们充分利用Redis的内存,并且优化查询和操作的速度。 拆分大key有以下几个步骤: 1. 查找大key:首先,我们需要确定哪些键是大key。可以通过Redis命令SCAN等遍历所有的键,然后对每个键进行内存占用的估算,找到占用较多内存的大key。 2. 拆分策略:确定拆分大key的方式。根据业务需求和键的特点,可以选择按照某个字段进行拆分,或者使用哈希函数将大key散列成多个小的数据键。 3. 创建小key:根据拆分策略,生成新的小key。可以使用Redis的命令如HSET、SADD等创建新的小key,并将原始大key中的数据逐个迁移到新的小key中。 4. 修改业务逻辑:针对之前使用大key的业务逻辑,需要修改为使用新的小key。例如,如果之前是使用大key进行排序或者过滤,现在需要将对应的小key进行排序或者过滤。 5. 清理大key:在数据迁移完成后,可以删除原始的大key,释放相应的内存空间。 需要注意的是,拆分大key可能会增加代码的复杂性,需要重新设计和修改相关的业务逻辑。在切分大key时,还需要考虑到数据一致性和并发访问的问题。因此,在进行大key拆分之前,需要对业务需求和数据特点进行充分的分析和评估。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值