flink定时器踩坑

场景: 按天聚合结果 ,第二天零点将状态清空 防止前一天状态到第二天累加

keyedStream process function 核心代码

  						 this.state = this.creditResultValueState.value();

                            String mobile = mysqlRecordBean.getJSONObject("after").getString("mobile").trim();
                            this.bloomFilter = (BloomFilter) this.bloomState.value();
                            if (this.bloomFilter == null) {
                                this.bloomFilter = BloomFilter.create(Funnels.unencodedCharsFunnel(), 100000);
                            }

                            if (this.state == null) {
                                this.state = new JSONObject();
                                this.state.put("counts", 1L);
                            } else {
                                if (!this.bloomFilter.mightContain(mobile)) {
                                    System.out.println("<<<<--this mobile is running --->>>>>>>>>");
                                    this.bloomFilter.put(mobile);
                                    this.state.put("counts", 1 + this.state.getLong("counts"));
                                }
                            }

                            this.state.put("day", TimeUtil.currentDay());
                            this.creditResultValueState.update(this.state);
                            this.bloomState.update(this.bloomFilter);
                            out.collect(this.state);
                            long timer = 				 NumberRegisterADS.tomorrowZeroTimestampMs(LocalDateTime.now().toInstant(ZoneOffset.of("+8")).toEpochMilli(), 8);
                            //注册处理时间
                            ctx.timerService().registerEventTimeTimer(timer);
  • 遇到的问题:

    • k8s pod 时区问题 : 12小时制
    • 定时器不是在每天零点触发
  • 解决办法:

    • 时间问题:
      在这里插入图片描述
      通过上面步骤构建一个基础flink 镜像,然后基于该基础镜像 制作flink 作业镜像
    • 定时器问题解决方案:
 this.state = this.creditResultValueState.value();

                            String mobile = mysqlRecordBean.getJSONObject("after").getString("mobile").trim();
                            this.bloomFilter = (BloomFilter) this.bloomState.value();
                            if (this.bloomFilter == null) {
                                this.bloomFilter = BloomFilter.create(Funnels.unencodedCharsFunnel(), 100000);
                            }

                            if (this.state == null) {
                                this.state = new JSONObject();
                                this.state.put("counts", 1L);
                            } else {
                                if (!this.bloomFilter.mightContain(mobile)) {
                                    System.out.println("<<<<--this mobile is running --->>>>>>>>>");
                                    this.bloomFilter.put(mobile);
                                    this.state.put("counts", 1 + this.state.getLong("counts"));
                                }
                            }

                            this.state.put("day", TimeUtil.currentDay());
                            this.creditResultValueState.update(this.state);
                            this.bloomState.update(this.bloomFilter);
                            out.collect(this.state);
                            long timer = NumberRegisterADS.tomorrowZeroTimestampMs(LocalDateTime.now().toInstant(ZoneOffset.of("+8")).toEpochMilli(), 8);
                            //注册处理时间
                            ctx.timerService().registerProcessingTimeTimer(timer);

将 registerEventProcessingTimeTimer 改为 registerProcessingTimeTimer

结论 :

     测试观察 定时器在每天零点注册 且 清空状态后端数据  
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flink提供了两种类型的定时器:事件时间定时器和处理时间定时器。 事件时间定时器基于事件时间,可以在数据流中插入一个事件时间戳,一旦到达指定时间,就会触发定时器。事件时间定时器适用于需要等待一段时间以获取完整结果的场景,例如处理窗口。 处理时间定时器基于处理时间,可以在数据到达后的固定时间间隔后触发定时器。处理时间定时器适用于需要在一定时间间隔内执行某个操作的场景,例如清理过期数据。 下面是一个使用处理时间定时器的示例代码: ``` DataStreamSource<String> source = env.fromElements("a", "b", "c"); source .map(new MapFunction<String, Tuple2<String, Long>>() { @Override public Tuple2<String, Long> map(String value) throws Exception { return Tuple2.of(value, System.currentTimeMillis() + 10000L); } }) .keyBy(0) .process(new KeyedProcessFunction<String, Tuple2<String, Long>, String>() { @Override public void processElement(Tuple2<String, Long> value, Context ctx, Collector<String> out) throws Exception { // 注册处理时间定时器,10秒后触发 ctx.timerService().registerProcessingTimeTimer(value.f1); // 保存状态 ValueState<String> state = getRuntimeContext().getState(new ValueStateDescriptor<>("value-state", String.class)); state.update(value.f0); } @Override public void onTimer(long timestamp, OnTimerContext ctx, Collector<String> out) throws Exception { // 处理时间定时器触发,输出状态中的值 ValueState<String> state = getRuntimeContext().getState(new ValueStateDescriptor<>("value-state", String.class)); out.collect(state.value()); } }) .print(); env.execute(); ``` 在上面的示例中,我们先从一个字符串数据源中获取数据,并使用MapFunction将每个字符串与当前时间戳组成一个Tuple2。然后,我们使用KeyedProcessFunction对每个Tuple2进行处理,其中我们注册了处理时间定时器,并将状态保存在ValueState中。当定时器触发时,我们可以从状态中获取值并输出。 需要注意的是,处理时间定时器的触发时间是相对于 Flink JobManager 的机器时间的,而不是相对于数据流中的事件时间。因此,在使用处理时间定时器时应特别注意处理时间与事件时间之间的差异。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值