【Flink】设置了watermark，没有使用watermark触发窗口计算

最新推荐文章于 2024-03-03 12:16:03 发布

一杯咖啡半杯糖

最新推荐文章于 2024-03-03 12:16:03 发布

阅读量986

点赞数

分类专栏： Flink实战文章标签： flink 大数据

本文链接：https://blog.csdn.net/sinat_23225111/article/details/128183063

版权

Flink实战专栏收录该内容

95 篇文章 136 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文介绍了在Flink应用中遇到的一个问题，即设置了watermark但窗口计算并未使用watermark触发。示例代码展示了基于socket的单词切分任务，并指出了使用TumblingProcessingTimeWindows而不是TumblingEventTimeWindows导致的问题。要使watermark生效，应当使用TumblingEventTimeWindows.of(Time.seconds(5))。

摘要由CSDN通过智能技术生成

Flink的watermark和窗口计算在flink应用中很常用，但是有时候会出现由于第一次用导致出错的情况，下面这种情况就是设置了watermark，但是最后窗口计算没有使用watermark触发。

下面的代码就是经典的单词切分，Flink数据源为socket，socket输入数据格式

hello 10 1669964401000
hello 11 1669964402000
hello 12 1669964403000
hello 13 1669964404000
hello 13 1669964409000

在此基础上添加watermark以及窗口，但是测试时发现就算设置了事件TimeCharacteristic.EventTime（Flink1.13版本默认事件就是事件事件），设置了watermark，最后窗口计算仍然不是watermark触发

package com.demo;

import org.apache.flink.api.common.eventtime.SerializableTimestampAssigner;
import org.apache.flink.api.common.eventtime.WatermarkStrategy;
import org.apache.flink.api.common.functions.FlatMapFunction;
import org.apache.fl

了解本专栏