FlinkSql系列7之Temporal Join

FlinkSql系列7之Temporal Join

前言

本次记录一下Temporal Join的具体实践用法

一、Temporal Join是什么?

Temporal Join又可以叫快照Join ,在实时的场景里面,比如说对于一本书的价格可能在一小时前是10,但是一小时后面的时间变成了16,那么对于这种动态改变的时候,我们就要有一种时态表的概念,根据时间的不同可以动态的改变当前的值,这个时候就会用到Temporal Join。

二、测试步骤

1.使用flinkcdc建立要Temporal Join的表

在这里插入图片描述
注意点:
1.在msyql里面的这个表并没有设置主键,但是在flinksql里面建时态表的时候,需要指定主键,并且要能根据你的connector来判断让flink自动推断出主键的选择,否则报错,其次在flinksql里面我们可以这样指定主键

PRIMARY KEY(bookname) NOT ENFORCED

2.注意这个表需要定义watermark,是随着时间推移的。
在这里插入图片描述

2.建立kafka数据源表

在这里插入图片描述
注意:
这里这个表也要指定watermark,用于watermark推移

3.关联查询测试

在这里插入图片描述
开始没有结果

在这里插入图片描述
mysql表中的数据

kafka 输入数据
在这里插入图片描述
可以看到已经匹配上结果:

在这里插入图片描述
再次输入kafka数据
在这里插入图片描述
可以看到再次关联到
在这里插入图片描述

总结

以上就是使用kafka搭配flinkcdc的方式来测试temporal join的方式,我们这里把时间作为数据来输入的,其实效果是一样的,而且测试的时候如果把上面两条kafka的数据反着输入,会发现,第二条八点五十的就关联不到了,因为整个流是随着watermark推移的,保证两个表都要是watermark表来实现。

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要触发Flink的event time temporal join,需要满足以下条件: 1. 数据源必须有时间戳(timestamp)字段,用于标识事件发生的时间。 2. 数据源必须定义Event Time和Watermark,用于处理乱序事件数据。 3. 执行join操作时,需要使用Window函数将事件流分割为固定时间段的窗口,以便进行join操作。 4. 在join操作中,需要将窗口中的数据按照时间戳进行排序。 5. 确保所有数据源都使用相同的时间语义(Event Time)。 以下是一个示例代码,演示如何触发Flink的event time temporal join: ``` DataStream<Order> orders = env .addSource(new OrderSource()) .assignTimestampsAndWatermarks(new OrderTimestampExtractor()); DataStream<Payment> payments = env .addSource(new PaymentSource()) .assignTimestampsAndWatermarks(new PaymentTimestampExtractor()); orders.join(payments) .where(order -> order.getCustomerId()) .equalTo(payment -> payment.getCustomerId()) .window(TumblingEventTimeWindows.of(Time.seconds(10))) .apply(new JoinFunction<Order, Payment, String>() { @Override public String join(Order order, Payment payment) throws Exception { return "Order: " + order.toString() + ", Payment: " + payment.toString(); } }) .print(); ``` 在上述代码中,orders和payments分别是两个数据源,分别代表订单和支付信息。我们使用OrderTimestampExtractor和PaymentTimestampExtractor对它们进行时间戳和Watermark的处理。 在join操作中,我们使用where和equalTo指定订单和支付信息的关联字段,使用TumblingEventTimeWindows将事件流分割为10秒的窗口,然后使用JoinFunction进行join操作,并将结果打印出来。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值