【Flink】Flink 报错 flink 1.12.5 启动作业报 partition not found

838 篇文章 847 订阅 ¥99.90 ¥299.90
在Flink 1.12.5中,启动大数据作业时遇到'partition not found'错误。这可能是由于大型作业的State过大或加载大型维表导致的GC问题。当达到最大回退时间后,作业可能会失败并需要重启才能正常运行。参考Apache Flink的JIRA issue FLINK-9413和GitHub PR 6103,调整K8s的网络参数如增大连接超时时间可以解决此问题。
摘要由CSDN通过智能技术生成

文章目录


在这里插入图片描述

1.概述

flink 1.12.5 启动作业报 partition not found的问题, 可能是什么原因导致的
在这里插入图片描述
启动作业就有这个问题,特别是耗费资源一百多g的大作业出现的更频繁
在这里插入图片描述
基本每个作业都出现, flink 1.12.5 native k8s模式

是不是有些算子state很大或者要load非常大的维表之类的,gc的话会无法响应下游的partition request,到达max backoff之后还连不上就会触发这个?

是的,这种情况一般每个内存耗费一二百g的作业启动必出现一次,然后失败重启策略之后作业才能正常运行

参考:https://issues.apache.org/jira/browse/FLINK-9413

之前批作业,也遇到过这种的情况,同样是资源占用多的作业出现

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值