【Redis 】Redis HyperLogLog 语法和使用场景

最新推荐文章于 2024-05-29 16:08:19 发布

Mr小林

最新推荐文章于 2024-05-29 16:08:19 发布

阅读量230

点赞数

分类专栏： ------【Redis】 ●面试相关

本文链接：https://blog.csdn.net/mrlin6688/article/details/111194675

版权

●面试相关同时被 2 个专栏收录

85 篇文章 1 订阅

订阅专栏

------【Redis】

31 篇文章 1 订阅

订阅专栏

Redis HyperLogLog

Redis 在 2.8.9 版本添加了 HyperLogLog 结构。

Redis HyperLogLog 是用来做基数统计的算法，HyperLogLog 的优点是，在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定的、并且是很小的。

在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基数。这和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。

但是，因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

使用场景

摘自：https://www.cnblogs.com/loveLands/articles/10987055.html

Redis HyperLogLog 是用来做基数统计的算法，HyperLogLog 的优点是，在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定的、并且是很小的。

　　在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基数。和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。

　　因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

HyperLogLog是一种算法，并非redis独有
目的是做基数统计，故不是集合，不会保存元数据，只记录数量而不是数值
耗空间极小，支持输入非常体积的数据量
核心是基数估算算法，主要表现为计算时内存的使用和数据合并的处理。最终数值存在一定误差
redis中每个hyperloglog key占用了12K的内存用于标记基数（官方文档）
pfadd命令并不会一次性分配12k内存，而是随着基数的增加而逐渐增加内存分配；而pfmerge操作则会将sourcekey合并后存储在12k大小的key中，由hyperloglog合并操作的原理（两个hyperloglog合并时需要单独比较每个桶的值）可以很容易理解。
误差说明：基数估计的结果是一个带有 0.81% 标准错误（standard error）的近似值。是可接受的范围
Redis 对 HyperLogLog 的存储进行优化，在计数比较小时，存储空间采用稀疏矩阵存储，空间占用很小，仅仅在计数慢慢变大，稀疏矩阵占用空间渐渐超过了阈值时才会一次性转变成稠密矩阵，才会占用 12k 的空间

需要统计网页每天的用户访问量的数据，同一个用户一天之内的多次访问请求只能计数一次，要求每一个网页请求都需要带上用户的 ID，无论是登陆用户还是未登陆用户都需要一个唯一 ID 来标识。

为每一个页面一个独立的 set 集合来存储所有当天访问过此页面的用户 ID。当一个请求过来时，我们使用 sadd 将用户 ID 塞进去就可以了。通过 scard 可以取出这个集合的大小，这个数字就是这个页面的用户访问量数据。但是，页面访问量非常大，每天有几千万的用户访问量，需要一个很大的 set 集合来做统计，这就非常浪费空间。如果不止一个页面需要统计，那所需要的存储空间是非常巨大的。仅仅为这样一个统计功能去耗费大量的空间，是不划算的。同时，我们也考虑到实际的业务需求对用户访问量这个数字并不需要特别的精确，只需要算出一个大概即可。

性能对比：

什么是基数?

比如数据集 {1, 3, 5, 7, 5, 7, 8}，那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。基数估计就是在误差可接受的范围内，快速计算基数。

实例

以下实例演示了 HyperLogLog 的工作过程：

影响基数估值则返回1否则返回0.若key不存在则创建
时间复杂度O(1)

redis 127.0.0.1:6379> PFADD runoobkey "redis"

1) (integer) 1

redis 127.0.0.1:6379> PFADD runoobkey "mongodb"

1) (integer) 1

redis 127.0.0.1:6379> PFADD runoobkey "mysql"

1) (integer) 1

redis 127.0.0.1:6379> PFCOUNT runoobkey

(integer) 3

Redis HyperLogLog 命令

下表列出了 redis HyperLogLog 的基本命令：

PFCount用法：

redis 127.0.0.1:6379> PFCOUNT key [key ...]

实例：

　pfcount 获得基数值

得到基数值，叫做去重值（1，1，2，2，3）的插入pfcount得到的是3
可一次统计多个key
时间复杂度为O(N)，N为key的个数
返回值是一个带有 0.81% 标准错误（standard error）的近似值.

redis 127.0.0.1:6379> PFADD hll foo bar zap
(integer) 1
redis 127.0.0.1:6379> PFADD hll zap zap zap
(integer) 0
redis 127.0.0.1:6379> PFADD hll foo bar
(integer) 0
redis 127.0.0.1:6379> PFCOUNT hll
(integer) 3
redis 127.0.0.1:6379> PFADD some-other-hll 1 2 3
(integer) 1
redis 127.0.0.1:6379> PFCOUNT hll some-other-hll
(integer) 6
redis>

Redis PFMERGE

命令将多个 HyperLogLog 合并为一个 HyperLogLog ，合并后的 HyperLogLog 的基数估算值是通过对所有给定 HyperLogLog 进行并集计算得出的。

redis PFMERGE 命令基本语法如下：

取多个key的并集
命令只会返回 OK.
时间复杂度为O（N）

PFMERGE destkey sourcekey [sourcekey ...]

实例

redis> PFADD hll1 foo bar zap a
(integer) 1
redis> PFADD hll2 a b c foo
(integer) 1
redis> PFMERGE hll3 hll1 hll2
"OK"
redis> PFCOUNT hll3
(integer) 6
redis>