Flink中BloomFilter（布隆过滤器）和ValueState的结合使用

IT但丁

已于 2022-02-16 13:43:10 修改

阅读量7.6k

点赞数 4

分类专栏： Flink实时篇文章标签：大数据 flink 过滤器

于 2020-03-13 08:34:44 首次发布

本文链接：https://blog.csdn.net/u010271601/article/details/104833153

版权

文章目录

一、需求

有以下数据：

用户ID,活动ID,时间,事件类型,省份
u001,A1,2019-09-02 10:10:11,1,北京市
u001,A1,2019-09-02 14:10:11,1,北京市
u001,A1,2019-09-02 14:10:11,2,北京市
u002,A1,2019-09-02 14:10:11,1,北京市
u002,A2,2019-09-02 14:10:11,1,北京市
u002,A2,2019-09-02 15:10:11,1,北京市
u002,A2,2019-09-02 15:10:11,2,北京市

事件类型：
0:曝光
1:点击
2:参与

统计上面点击、参与某个活动的人数和次数？
要求使用：ValueState结合BloomFilter完成

二、分析

1、人数

按活动id 和事件类型id 分组
把uid放入布隆过滤器中，对uid去重并计数

2、点击次数

每个活动和每个事件类型下的：

全局count

3、技术点

使用BloomFilter，对中间结果的判断储存
自定义ValueState
底层Api 的Process的使用

三、代码实现

布隆过滤器包名：
import org.apache.flink.shaded.guava18.com.google.common.hash.BloomFilter;

1、数据的读取，做切割处理

import org.apache.flink.api.common.functions.MapFunction;
import org.apache.flink.api.common.state.ValueState;
import org.apache.flink.api.common.state.ValueStateDescriptor;
import org.apache.flink.api.common.typeinfo.TypeHint;
import org.apache.flink.api.common.typeinfo.TypeInformation;
import org.apache.flink.api.java.tuple.Tuple;
import org.apache