IDEA远程Debug(FLink)

  1. 点击框框的编辑选项
    在这里插入图片描述
  2. 按下图添加远程调试,并配置参数
    在这里插入图片描述
  3. 将框里的字符串复制出来,并在前面加固定字符串,下面是需要在FLink配置中添加的完整字符串:
    env.java.opts.taskmanager: -agentlib:jdwp=transport=dt_socket,server=y,suspend=n,address=8843
    在这里插入图片描述
  4. 在Flink集群的某一节点上(建议远程Debug只留一个节点),找到Flink的配置文件flink-conf.yml,将第3步中的字符串添加进去,保存,并重启该节点的TaskManager服务。
  5. 启动。
    在这里插入图片描述

注意

  • 如果连接超时,多半是IP地址填写错误了…(别问我为啥知道,心里苦)
  • 如果是提示 java.net.ConnectException "Connection refused: connect",首先先检查端口有没有被占用,如果没有被占用,那么恭喜,很有可能是集群中有多个节点的配置文件中,都被添加了第3步中的配置,导致端口被重复使用了,这时候只保留其中一个节点的配置就行,其余节点的配置文件中,把那句配置删掉。(这个也别问我为啥知道。)

至此远程Debug工作就已经准备完毕了,发布一个Job就可以愉快的调试了。(记得要保证本地的代码和Flink上所用的代码是一致的。)

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
IDEA中模拟Flink的Checkpoint,可以使用Flink提供的TestingUtils类来进行模拟。具体步骤如下: 1. 创建一个Flink的测试环境,可以使用TestingUtils类的createTestEnvironment方法来创建。 2. 在测试环境中,创建一个带有Checkpoint的DataStream。 3. 启动测试环境,并等待Checkpoint完成。 4. 对于每个Checkpoint,可以使用TestingUtils类的advanceTime方法来模拟时间的推进。 5. 在测试完成后,可以使用TestingUtils类的assertStreamEquals方法来验证DataStream的输出结果是否正确。 下面是一个简单的示例代码: ```java import org.apache.flink.streaming.api.CheckpointingMode; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.streaming.api.functions.source.SourceFunction; import org.apache.flink.streaming.api.watermark.Watermark; import org.apache.flink.streaming.api.windowing.time.Time; import org.apache.flink.streaming.util.TestStreamEnvironment; import org.apache.flink.test.util.AbstractTestBase; import org.junit.Test; import java.util.concurrent.TimeUnit; public class CheckpointTest extends AbstractTestBase { @Test public void testCheckpoint() throws Exception { StreamExecutionEnvironment env = TestStreamEnvironment.createTestStreamEnvironment(); env.enableCheckpointing(1000, CheckpointingMode.EXACTLY_ONCE); env.setParallelism(1); env.addSource(new SourceFunction<String>() { private volatile boolean running = true; @Override public void run(SourceContext<String> ctx) throws Exception { while (running) { ctx.collectWithTimestamp("hello", System.currentTimeMillis()); ctx.emitWatermark(new Watermark(System.currentTimeMillis())); TimeUnit.MILLISECONDS.sleep(500); } } @Override public void cancel() { running = false; } }) .keyBy(value -> value) .timeWindow(Time.seconds(1)) .reduce((value1, value2) -> value1 + " " + value2) .print(); env.execute(); // 模拟第一个checkpoint TestStreamEnvironment.setCurrentTime(1000); env.getCheckpointCoordinator().triggerCheckpoint(System.currentTimeMillis(), false); // 模拟第二个checkpoint TestStreamEnvironment.setCurrentTime(2000); env.getCheckpointCoordinator().triggerCheckpoint(System.currentTimeMillis(), false); } } ``` 上面的代码演示了如何在测试环境中模拟Flink的Checkpoint,其中使用了TestingUtils类的一些方法来模拟时间的推进和验证输出结果。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值