Redis手记之Hyperloglog（五）

简介

• Redis 在 2.8.9 版本添加了 HyperLogLog 结构。

• Redis HyperLogLog 是用来做基数统计的算法，HyperLogLog
  的优点是，在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定 的、并且是很小的。

• 在 Redis 里面，每个HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基
  数。这和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。但是，因为 HyperLogLog
  只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。
  以上较为官方一点的简介和说明，个人总结如下：

• HyperLogLog是一种算法，并非redis独有

• 目的是做基数统计，故不是集合，不会保存元数据，只记录数量而不是数值。

• 耗空间极小，支持输入非常体积的数据量

• 核心是基数估算算法，主要表现为计算时内存的使用和数据合并的处理。最终数值存在一定误差。

• redis中每个hyperloglog key占用了12K的内存用于标记基数（官方文档）

• pfadd命令并不会一次性分配12k内存，而是随着基数的增加而逐渐增加内存分配；而pfmerge操作则会将sourcekey合并后存储在12k大小的key中，这由hyperloglog合并操作的原理（两个hyperloglog合并时需要单独比较每个桶的值）可以很容易理解。

• 误差说明：基数估计的结果是一个带有 0.81% 标准错误（standard error）的近似值。是可接受的范围。

• Redis 对HyperLogLog 的存储进行了优化，在计数比较小时，它的存储空间采用稀疏矩阵存储，空间占用很小，仅仅在计数慢慢变大，稀疏矩阵占用空间渐渐超过了阈值时才会一次性转变成稠密矩阵，才会占用12k 的空间

redis中HLL的使用

• 影响基数估值则返回1否则返回0.若key不存在则创建
• 时间复杂度O(1)

pfadd 添加

127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2
(integer) 1

pfcount 获得基数值

• 得到基数值，白话就叫做去重值（1，1，2，2，3）的插入pfcount得到的是3
• 可一次统计多个key
• 时间复杂度为O(N)，N为key的个数
• 返回值是一个带有 0.81% 标准错误（standard error）的近似值.

   127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2
   (integer) 1
   127.0.0.1:6379> pfcount m1
   (integer) 4

pfmerge 合并多个key

• 取多个key的并集
• 命令只会返回 OK.
• 时间复杂度为O（N）

127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2
(integer) 1
127.0.0.1:6379> pfcount m1
(integer) 4
127.0.0.1:6379> pfadd m2 3 3 3 4 4 4 5 5 5 6 6 6 1
(integer) 1
127.0.0.1:6379> pfcount m2
(integer) 5
127.0.0.1:6379> pfmerge mergeDes m1 m2
OK
127.0.0.1:6379> pfcount mergeDes
(integer) 6

应用场景

说明：

• 基数不大，数据量不大就用不上，会有点大材小用浪费空间
• 有局限性，就是只能统计基数数量，而没办法去知道具体的内容是什么
• 和bitmap相比，属于两种特定统计情况，简单来说，HyperLogLog 去重比 bitmap 方便很多
• 一般可以bitmap和hyperloglog配合使用，bitmap标识哪些用户活跃，hyperloglog计数

一般使用：

• 统计注册 IP 数
• 统计每日访问 IP 数
• 统计页面实时 UV 数
• 统计在线用户数
• 统计用户每天搜索不同词条的个数