UV统计功能
这是黑马点评最后一个功能了,最后带大家完成这个项目的内容!
一、关于HyperLogLog
1、概念简介
首先我们搞懂两个概念:
- UV:全称Unique Visitor,也叫独立访客量,是指通过互联网访问、浏览这个网页的自然人。1天内同一个用户多次访问该网站,只记录1次。
- PV:全称Page View,也叫页面访问量或点击量,用户每访问网站的一个页面,记录1次PV,用户多次打开页面,则记录多次PV。往往用来衡量网站的流量。
通常来说UV会比PV大很多,所以衡量同一个网站的访问量,我们需要综合考虑很多因素,所以我们只是单纯的把这两个值作为一个参考值
UV统计在服务端做会比较麻烦,因为要判断该用户是否已经统计过了,需要将统计过的用户信息保存。但是如果每个访问的用户都保存到Redis中,数据量会非常恐怖,那怎么处理呢?
2、HyperLogLog的用法
Hyperloglog(HLL)是从Loglog算法派生的概率算法,用于确定非常大的集合的基数,而不需要存储其所有值。相关算法原理大家可以参考:
(https://juejin.cn/post/6844903785744056333#heading-0)
Redis中的HLL是基于string结构实现的,单个HLL的内存永远小于16kb,内存占用低的令人发指!作为代价,其测量结果是概率性的,有小于0.81%的误差。不过对于UV统计来说,这完全可以忽略。
模拟统计
#先插入五个元素,代表5个用户访问了该网站
> PFADD A1 a b c d e
1
#统计结果为5
> PFCOUNT A1
5
#再次插入5个相同元素,代表5个用户再次访问
> PFADD A1 a b c d e
0
#这次统计次数并未增加
> PFCOUNT A1
5
二、测试百万数据的统计
测试思路:我们直接利用单元测试,向HyperLogLog中添加100万条数据,看看内存占用和统计效果如何
1、代码展示
/**
* 测试百万数据的统计
*/
@Test
void testHyperLogLog(){
String[] values=new String[1000];
int j=0;
for (int i=0;i<1000000;i++){
j=i%1000;
values[j]="user_"+i;
if (j==999) {
//发送到redis
stringRedisTemplate.opsForHyperLogLog().add("A1",values);
}
}
//统计数量
Long count = stringRedisTemplate.opsForHyperLogLog().size("A1");
System.out.println("count="+count);
}
2、测试结果
先查看一下当前redis的内存值
> info memory
# Memory
used_memory:905584
插入数据条数
count=997593
插入数据后内存占用
used_memory:919968
相差14,384B就是14kb,百万数据只占用14kb,内存占用极小
并且虽然没有完全插入百万条数据,但在误差范围之内
误差仅0.0025
并且不用担心重复插入的问题
UV统计功能完成!!!
到这里,黑马点评笔记正式跟大家说再见了!!
我们下期分享一下关于Java学习一些不一样的内容,期待下次再见!