基于Flink1.11.2 多表join与维表join

1,业务场景:之前离线的业务场景,想通过实时来实现。离线业务是多个表join,因为接入的myslq binlog的数据,所以数据存在修改跟删除,这个是跟日志分析最大的区别,因为日志分析啥的数据只有新增,相对来说考虑的东西就少了很多。

 

2,首先我们要实现的是多表join,这个相对还是比较简单的,比如下面的SQL:

 

3,但是3个表join可是全量join的,也就是说表的state是一直存在的,总会存在OOM爆炸的时候,那怎么办呢。

在我们使用window窗口的时候,一个窗口结束之后会帮我们清除state,这里Flink支持通过API清除state,不过是全局的,细粒度的还没研究。

因为业务是只管当天的数据,数据到kafka的时候会有延迟,但是不可能延迟一天,所以我这里设置TTL为1天到3天。

当然,肯定要测试一下TTL,读取2个topic注册为表,然后join,30s之后发现join不上了。state过期了。这个大家手动去测试吧。

 

4,几个表join之后,再加上设置了 TTL,我们还要关联维表数据,在做之前我就想,维表会不会受TTL的影响,脑壳发昏了 。

经过鸡哥的提醒我才想起来了,维表读取的代码就是缓存,是guava。磕头谢罪。

 

5,维表的join,维表的join语法在官网一目了然:

 

我们需要给主流添加上processTime:

  • 10
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值