xindong1024的博客

Flink已经默认提供了多种窗口，满足大部分的场景使用，但是针对部分场景需要更加灵活的窗口。比如在使用处理时间窗口时，虽然保证了在稳定的时间内的进行数据计算，但是在不同的窗口内的数据量可能差异较大，有可能出现由于数据量过大导致下游算子计算异常的情况，所以期望实现一种窗口，基于处理时间的窗口，但是当窗口内数据量达到一定阈值时结束当前窗口触发计算。

在Flink任务中需要将计算结果数据先存入HBase中（Phoenix），在保证HBase写入成功后再转发到Kafka中。在数据量较大的情况下由于串行写入HBase会出现严重反压，造成整体数据计算链路的整体数据产出效率大大降低。