Redis之HyperLogLog

Redis之HyperLogLog

注：本文是基于Linux系统上Redis v5.0.7进行讲解

1.基数

比如数据集 {1, 3, 5, 7, 5, 7, 8}， 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。 基数估计就是在误差可接受的范围内，快速计算基数

2.HyperLogLog介绍

HyperLogLog 是用来做基数统计的算法，运用了LogLog的算法；
HyperLogLog 的优点是，在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定 的、并且是很小的。
在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基 数。这和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。
但是，因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

相关说明：
1.用于进行基数统计，不是集合，不保存数据，只记录数量而不是具体数据
2.核心是基数估算算法，最终数值存在一定误差
3.误差范围：基数估计的结果是一个带有 0.81% 标准错误的近似值
4.耗空间极小，每个hyperloglog key占用了12K的内存用于标记基数
5.pfadd命令不是一次性分配12K内存使用，会随着基数的增加内存逐渐增大
6.Pfmerge命令合并后占用的存储空间为12K，无论合并之前数据量多少

2.pfadd命令

Pfadd 命令将所有元素参数添加到 HyperLogLog 数据结构中;
如果至少有个元素被添加返回 1， 否则返回 0

PFADD key element [element ...]

3.pcount命令

命令返回给定 HyperLogLog 的基数估算值;
返回给定 HyperLogLog 的基数值，如果多个 HyperLogLog 则返回基数估值之和

PFCOUNT key [key ...]

4.pgmerge命令

命令将多个 HyperLogLog 合并为一个 HyperLogLog ，合并后的 HyperLogLog 的基数估算值是通过对所有 给定 HyperLogLog 进行并集计算得出的;
返回 OK

PFMERGE destkey sourcekey [sourcekey ...]

5.LogLog算法

6.HyperLogLog基本操作

7.HyperLogLog应用场景

1.应用于独立信息统计
2.供不精确的去重计数功能，比较适合用来做大规模数据的去重统计，例如统计 UV；