核心知识点:
- 1.什么是慢查询?
- 2.客户端执行一条命令的步骤?
- 3.阈值和慢查询日志的设置?
- 4.慢查询日志的操作命令:slowlog get、slowlog len、slowlog reset。
- 5.注意事项:
a.没有慢查询不代表客户请求不会超时,还有排队和网络传输的时间
b.当客户端请求超时,可查看对应时间点是否有慢查询而导致的级联阻塞
c.可以定期将慢查询日志持久化,这样可以避免由于慢查询较多而导致的数据的丢失情况
许多存储系统(例如MySQL)提供慢查询日志帮助开发和运维人员定位系统存在的慢操作。
所谓慢查询日志就是系统在命令执行前后计算每条命令的执行时间,当超过预设阈值,
就将这条命令的相关信息(例如:发生时间、耗时、命令的详细信息)记录下来,Redis也提供了类似的功能。
Redis客户端执行一条命令分为4个部分:
1)发送命令
2)排队
3)执行命令
4)返回结果
注意:慢查询只会记录执行命令的时间,没有慢查询并不代表客户端没有超时问题。
1、慢查询的两个配置参数
对于慢查询功能,需要明确两件事:
第一、预设阈值怎么设置?
第二、慢查询记录存放在哪里?
Redis提供了slowlog-log-slower-than和slowlog-max-len配置来解决这两个问题。
从字面意思就可以看出,slowlog-log-slower-than就是那个预设阈值,它的单位是微妙(1秒=1000毫秒=1000000微秒),默认值10000。
假如执行了一条“很慢”的命令(例如keys *),如果它的执行时间超过了10000微秒,那么它将被记录在慢查询日志中。
如果slowlog-log-slower-than=0,那么系统会记录所有的命令;如果slowlog-log-slower-than<0,那么对任何命令都不会记录。
从字面意思看,slowlog-max-len只能说明慢查询日志最多存储多少条,并没有说明存放在那里?
实际上Redis使用了一个列表来存储慢查询日志,slowlog-max-log就是列表的最大长度。
一个新的命令满足慢查询条件时被插入到这个列表中,当慢查询日志列表已经处于最大长度时,列表中最早插入的那条记录将被移除,
例如,slowlog-max-log设置为5,当有第6条慢查询插入的话,那么队头的第一条数据就会出来列,第6条慢查询就会入列。
在Redis中有两种修改配置的方法,一种是修改配置文件,另一种是使用config set命令动态修改。
例如下面使用config set命令将slowlog-log-slower-than设置为20000微秒,slowlog-max-len设置为1000:
config set slowlog-log-slower-than 20000
config set slowlog-max-len 1000
config rewrite
如果要Redis将配置持久化到本地配置文件,要执行config rewrite命令,它会重写配置文件。
虽然慢查询日志是存放在Redis内存列表中,但是Redis并没有暴露这个列表的键,
而是通过一组命令来实现对慢查询日志的访问和管理,下面介绍这几个命令:
(1)获取慢查询日志
命令:slowlog get [n]
127.0.0.1:6379> slowlog get
1) 1) (integer) 1
2) (integer) 1513709400
3) (integer) 11
4) 1) "slowlog"
2) "get"
2) 1) (integer) 0
2) (integer) 1513709398
3) (integer) 4
4) 1) "config"
2) "set"
3) "slowlog-log-slower-than"
4) "2"
可以看到每个慢查询日志有4个属性组成,分别是慢查询日志的识别id、发生时间戳、命令耗时、执行命令和参数。
(2)获取慢查询日志列表当前的长度
命令:slowlog len
127.0.0.1:6379> slowlog len
(integer) 2
(3)慢查询日志重置
命令:slowlog reset
实际是对慢查询日志列表做清理操作。
127.0.0.1:6379> slowlog len
(integer) 6
127.0.0.1:6379> slowlog reset
OK
127.0.0.1:6379> slowlog len
(integer) 1
#为什么还有1个,因为阈值设的比较小,slowlog reset就属于慢查询。
2、注意事项
慢查询功能可以有效的帮助我们找到Redis可能存在的瓶颈,但在实际使用过程中要注意以下几点:
(1)slowlog-max-len配置建议:线上建议调大慢查询列表,记录慢查询时Redis会对长命令做截断操作,并不会占用大量内存。
增大慢查询列表可以减缓慢查询被剔除的可能。
(2)slowlog-log-slower-than配置建议:默认值超过10毫秒判定为慢查询,需要根据Redis并发量调整该值。
由于Redis采用单线程响应命令,对于高流量的场景,如果命令执行时间在1毫秒以上,那么Redis最多可以支撑OPS不到1000,因此对于高OPS的场景的Redis建议设置1毫秒。
(3)慢查询只记录命令执行时间,并不包括命令排队和网络传输时间。因此客户端执行命令的时间会大于命令实际执行的时间。
因为命令执行排队机制,慢查询会导致其他命令级联阻塞,因此当客户端出现请求超时,
需要检查该时间点是否有对应的慢查询,从而分析出是否为慢查询导致的命令级联阻塞。
(4)由于慢查询日志是一个先进先出的队列,也就是说如果慢查询比较多的情况下,可能会丢失部分慢查询命令,
为了防止这种情况发生,可以定期执行slowlog get命令将慢查询日志持久化到其他存储中(例如,MySQL),
然后可以制作出可视化界面进行查询。
重点回顾
- Redis 的慢查询日志功能用于记录执行时间超过指定时长的命令。
- Redis 服务器将所有的慢查询日志保存在服务器状态的
slowlog
链表中, 每个链表节点都包含一个slowlogEntry
结构, 每个slowlogEntry
结构代表一条慢查询日志。 - 打印和删除慢查询日志可以通过遍历
slowlog
链表来完成。 slowlog
链表的长度就是服务器所保存慢查询日志的数量。- 新的慢查询日志会被添加到
slowlog
链表的表头, 如果日志的数量超过slowlog-max-len
选项的值, 那么多出来的日志会被删除。
如果遇到Redis慢查询的问题,可以试试这样操作。
监控慢查询:启用 Redis 的慢查询日志功能,让 Redis 记录超过指定阈值的慢查询。你可以通过设置 slowlog-log-slower-than
参数来定义慢查询的时间阈值,并使用 slowlog-get
命令来获取慢查询日志。
分析慢查询日志:检查慢查询日志,了解哪些查询语句执行时间较长。分析慢查询的模式和频率,以及可能导致慢查询的原因。
优化查询语句:根据慢查询日志中的信息,优化执行时间较长的查询语句。可能的优化方式包括使用更高效的 Redis 命令,优化数据结构,或者对查询进行缓存。
使用索引:如果你在 Redis 中使用了有序集合(Sorted Set)或者哈希(Hash),可以考虑为某些字段创建索引。索引可以提高查询的速度,减少执行时间。
考虑升级硬件或扩展 Redis 集群:如果你的 Redis 服务器负载较高,可以考虑升级硬件资源或者通过扩展 Redis 集群来分担负载。增加 Redis 实例或者使用分片技术可以提高整体性能。
使用 Pipeline 或者批量操作:如果你需要执行大量的 Redis 命令,可以考虑使用 Pipeline 或者批量操作,将多个命令合并成一次发送,减少网络延迟和通信开销。
调整 Redis 配置:根据实际情况,调整 Redis 的配置参数。例如,增加最大连接数、调整内存分配策略、调整最大内存限制等。
使用 Redis Cluster:如果你的数据集较大,可以考虑使用 Redis Cluster 来分片和分布数据,以提高横向扩展能力和负载均衡。