统计redis中某类key的数量

redis使用过程中会存在查询某类key的数量问题,较简单的办法为通过redis-cli结合keys进行操作,由于keys的工作机制导致线上一般禁用该指令,而dbsize查看的是某个节点所有key的个数,我们可以使用scan命令来完成统计。

keys key*带来的问题:
我们线上的登录用户有几百万,数据量比较多;keys算法是遍历算法,复杂度是O(n),也就是数据越多,时间复杂度越高。
数据量达到几百万,keys这个指令就会导致 Redis 服务卡顿,因为 Redis 是单线程程序,顺序执行所有指令,其它指令必须等到当前的 keys 指令执行完了才可以继续。

scan命令:SCAN cursor [MATCH pattern] [COUNT count]
特点:

1、复杂度虽然也是 O(n),但是它是通过游标分步进行的,不会阻塞线程

2、提供 count 参数,不是结果数量,是redis单次遍历字典槽位数量(约等于)

3、同 keys 一样,它也提供模式匹配功能;

4、服务器不需要为游标保存状态,游标的唯一状态就是 scan 返回给客户端的游标整数;

5、返回的结果可能会有重复,需要客户端去重复,这点非常重要;

6、单次返回的结果是空的并不意味着遍历结束,而要看返回的游标值是否为零

7、SCAN命令是增量的循环,每次调用只会返回一小部分的元素。所以不会让redis假死

8、SCAN命令返回的是一个游标,从0开始遍历,到0结束遍历

举例:

192.168.40.14:22413> keys 1*
1) "172.168.1.3_102.100.1.1_62001_0__100.100.100.7_32"
2) "172.168.1.2_100.101.1.1_62001_0__100.100.100.1_32"
3) "172.168.1.5_10.107.221.52_32400_0__200.200.200.1_32"
4) "100.100.100.14_32"
192.168.40.14:22413> scan 0 match 1* count 2
1) "4"
2) 1) "172.168.1.3_102.100.1.1_62001_0__100.100.100.7_32"
192.168.40.14:22413> scan 4 match 1* count 2
1) "1"
2) 1) "172.168.1.2_100.101.1.1_62001_0__100.100.100.1_32"
192.168.40.14:22413> scan 1 match 1* count 2
1) "0"
2) 1) "172.168.1.5_10.107.221.52_32400_0__200.200.200.1_32"
   2) "100.100.100.14_32"

shell脚本通过scan实现统计功能

[root bin]# sh redis_keycount.sh '1*'
processing....
1*
redis_keycount.sh
1* count:4
ok!

脚本:

#!/bin/bash

A=$0
B=${A##*/}
C=${B%.*}
running_file_name=$C
running_flag="run.$running_file_name"

REDIS_CLIENT='redis-cli -h 192.168.40.14 -p 22413 -x'
function process {
    echo $0
    index=-1
    count=0
    step=100000
    while ((index!=0))
    do
      if [ $index -le 0 ];then
        index=0
      fi
      echo "scan $index match $1 count $step" | $REDIS_CLIENT > $running_file_name.cache
      read index <<< `head -1 $running_file_name.cache`
      read inc <<< `cat $running_file_name.cache | wc -l`
      inc=$((inc - 1))
      if [ $? -ne 0 ];then
        break
      fi
      count=$((count + inc))
    done
    echo "$1 count:"$count
}
#
if [ $# -ne 1 ];then
    echo "$0 <pars>"
    exit 0
fi
#
if [ -f "$running_flag" ] ; then
    echo "is running..."
    exit 0
fi
#
touch $running_flag
#
echo "processing...."
echo $*
process $*
#
rm -rf $running_flag
#
echo "ok!"

  • 5
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值