Flink 本地调试从checkpoint恢复

提交至集群从ck恢复

通过 -s 参数从 检查点恢复,检查点可以是 checkpoint 、savePoint,两者使用上几乎一样,细节上有区别

flink run -s /checkpoint-path/chk-n

本地调试从ck 恢复

execution.savepoint.path
注入 config 中使用

        Configuration conf = new Configuration();
        conf.setInteger(HEARTBEAT_TIMEOUT.key(), 60 * 1000 * 60);
        conf.setString("execution.savepoint.path", "file:///tmp/flink-checkpointsdwd/650de825a8df2e72a1be54e9dd87c8c4/chk-1");
        conf.setInteger(RestOptions.PORT, 8088);
        StreamExecutionEnvironment env = StreamExecutionEnvironment.createLocalEnvironmentWithWebUI(conf);

需要开启 checkpoint

        CheckpointConfig checkpointConfig = env.getCheckpointConfig();
        checkpointConfig.setCheckpointInterval(2 * 60 * 1000);
        checkpointConfig.setMinPauseBetweenCheckpoints(1000 * 60);
        checkpointConfig.setCheckpointTimeout(10 * 60 * 1000);
        String ckPatch = "file:///tmp/flink-checkpointsdwd";
        checkpointConfig.setCheckpointStorage(new FileSystemCheckpointStorage(
                new Path(ckPatch)));
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flink SQL是一个支持流和批两种模式的分布式计算框架,它能够用于各类大数据场景。Flink SQL从1.9版本开始支持基于SQL的批处理功能,最新版本的Flink SQL 1.14.0也都已经逐渐趋于完善。 对于如何从checkpoint恢复flink-sql任务,实际上与其他flink任务的恢复方式类似。flink-sql在运行过程中,产生了各种状态,如checkpoint状态、状态后端中的状态,元数据等。当一个flink-sql任务意外停止时,重启该任务会需要使用这些状态信息来恢复任务运行的正确状态。 首先,我们需要选定需要的状态后端。Flink提供了不同的状态后端,如memory、filesystem、rocksDB等,在配置文件中选定所需的状态后端,进而启动flink-sql任务。这样flink-sql任务就会产生一系列状态信息,存储在指定的状态后端中。 其次,我们需要设置checkpoint,以保证flink-sql任务在运行过程中产生的状态信息能够被及时保存。Flink提供了不同的checkpoint触发机制,如时间间隔、数据量等,可以根据具体情况选择。 最后,在flink-sql任务出现异常中断时,可以通过使用之前保存的checkpoint状态信息来恢复flink-sql任务,保证任务持续运行。具体可以使用flink提供的命令行工具或者API进行操作。 需要注意的是,在使用flink-sql重启任务时,要确保数据源的指针位于正确的位置,否则将可能导致脏数据的产生,从而影响计算结果的正确性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值