flink kafka connect mysql 广播流 BroadcastStream 错误解决记录 Not all required tasks are currently running.

flink kafka connect mysql 广播流 BroadcastStream 错误解决记录 Not all required tasks are currently running.

错误如图

在这里插入图片描述

错误文字

[Checkpoint Timer] INFO org.apache.flink.runtime.checkpoint.CheckpointCoordinator - Failed to trigger checkpoint for job 4efe5a68da3ab807288aa4d13e236ee5 because Some tasks of the job have already finished and checkpointing with finished tasks is not enabled. Failure reason: Not all required tasks are currently running.

错误原因

flink-kakfa流关联mysql数据行成的flink广播流 BroadcastStream报错是因为flink在checkpoint时会去检查flink-kakfa流和flink-mysql广播流的流状态,因mysql 我这里用的是org.apache.flink.streaming.api.environment.StreamExecutionEnvironment.fromCollection(java.util.Collection)导入的数据,很明显是一个批处理程序,在检查时已经变成finish状态,因此报错( Not all required tasks are currently running.),checkpoint 成功的前提下是流状态都要是 running 状态。

解决方案

这里要让mysql广播流永远running,可以有以下方案
1、自定义source,在run方法里面永远循环
2、将mysql维度表数据写入kafka,把这个kafka流弄成广播流
具体方案后面写

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值