Redis原理之HyperLogLog

Redis HyperLogLog

Redis 在 2.8.9 版本添加了 HyperLogLog 结构。

Redis HyperLogLog 是用来做基数统计的算法，通过HyperLogLog 可以利用极小的内存空间完成独立总数的统计，数据集可以是IP，Email，ID等。

HyperLogLog 的优点是，在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定 的、并且是很小的。

在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基 数。这和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。

但是，因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

---

什么是基数?

比如数据集 {1, 3, 5, 7, 5, 7, 8}， 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。 基数估计就是在误差可接受的范围内，快速计算基数。

127.0.0.1:6379> pfadd key  "redis"

(integer) 1

127.0.0.1:6379> pfadd key "java"

(integer) 1

127.0.0.1:6379> pfadd key "mongodb"

(integer) 1

127.0.0.1:6379> pfadd key "mysql"

(integer) 1

127.0.0.1:6379> pfcount key

(integer) 4

添加

pfadd    key   element [element...]

pfadd 用于向HyperLogLog 添加元素，如果添加成功返回1 。

127.0.0.1:6379> pfadd 2021-06-03_users "user_1" "user_3" "user_4" "user_7"

(integer) 1

计算独立用户数

pfcount  key.   [key....]

pfcount 用于计算一个或多个 HyperLogLog 的独立用户数，例如：2021-06-03_users

127.0.0.1:6379> pfcount 2021-06-03_users

(integer) 4

合并

pfmerge  destkey   sourcekey  [sourcekey ....]

pfmerge 可以求出多个HyperLogLog 的并集 赋值 给 destkey ,  例如计算2021-06-03_users 和2021-06-04_users 的独立用户数

127.0.0.1:6379> pfadd 2021-06-04_users "user_2" "user_8" "user_4" "user_7"

(integer) 1

127.0.0.1:6379> pfmerge 2021-06-03_users 2021-06-04_users

OK

127.0.0.1:6379> pfcount 2021-06-03_users

(integer) 6

HyperLogLog 占用空间非常小，但是存在错误率，开发者在进行数据结构选型时只需要确认如下2条即可

• 只为计算独立总数，不需要获取单条数据
• 可以容忍一定的误差率，毕竟HyperLogLog 在内存的占用上有很大的优势。