flink双流join的技术思考

1、A流和B流时间相隔较短,几分钟或者几小时

①策略:直接使用join操作

②解释:join底层走的是:A来B没来,A会缓存起来(默认1.5天),B流来去缓存查A,join成功,然后输出。

③注意点:如果是A left join B ,A来B没来A会先输出一条没join上的数据,B来的时候会将之前的输出做逻辑撤回,然后将join上的最新结果重新输出(下游要做好过滤等操作,保证输出的幂等性)

2、A流和B流相隔时间较长,比如订单流这种以若干天为变化周期的数据

①比如要给订单实时流添加相关的维度信息

②策略:采用双流join的话需要对缓存设置较长的TTL,而且TTL没有很明确的时间标准,所以采用双流join不是一种很好的选择。

采用持久化的缓存方式,比如将订单流要join的数据缓存到hbase这种数据库,即使订单过了N天再到来,也是可以关联上的。

③注意点:这种策略时为了解决双流join的短板,缓存到habse或者redis要调研好两条流的数据明细以及何时的保存时间

3、 涉及到状态回退的实时聚合操作

①场景比如:按地区实时统计当天的有效订单数,一方面要维护以地区为key的聚合结果,另一方面要维护订单的状态,根据状态去做key的加减操作

② 策略:第一步:将订单对应的多个有效态和无效态分别映射为一个有效态和无效态,便于下一步处理。第二步:将订单以orderId为key,status为value存在habse,如果某个地区来了一条状态为有效的订单,一方面维度habse该订单的状态,另一方面对比如保存在redis的key执行+1的操作。如果来了定单取消的状态,那么同样去更新hbase该订单的状态和redis对应的地区的key的做-1操作。

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flink双流join是指在Flink流处理框架中,将两个流数据进行关联操作的一种方式。在Flink中,支持两种方式的流的Join: Window Join和Interval Join。 Window Join是基于时间窗口的关联操作,包括滚动窗口Join、滑动窗口Join和会话窗口Join。滚动窗口Join是指将两个流中的元素根据固定大小的时间窗口进行关联操作。滑动窗口Join是指将两个流中的元素根据固定大小的时间窗口以固定的滑动间隔进行关联操作。会话窗口Join是指将两个流中的元素根据一段时间内的活动情况进行关联操作。 Interval Join是基于时间区间的关联操作,它允许流中的元素根据时间区间进行关联操作,而不依赖于固定大小的时间窗口。这样可以处理两条流步调不一致的情况,避免等不到join流窗口就自动关闭的问题。 总结起来,Flink双流join提供了通过时间窗口和时间区间的方式将两个流进行关联操作的灵活性和可靠性。根据具体的需求和数据特点,可以选择合适的窗口类型来进行双流join操作。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [Flink双流join](https://blog.csdn.net/weixin_42796403/article/details/114713553)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* [Flink双流JOIN](https://blog.csdn.net/qq_44696532/article/details/124456980)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值