【Flink】Slot request bulk is not fulfillable! Could not allocate the required slot

838 篇文章 846 订阅 ¥99.90 ¥299.90
401 篇文章 635 订阅 ¥99.90 ¥299.90
在Flink作业执行过程中遇到'Slot request bulk is not fulfillable!'错误,问题源于最大并行度设置与可用Slot不匹配。经过排查,发现并行度计算时误将Kafka集群中的节点数读取为2,实际为3。这可能是由于Kafka Broker的元数据在Zookeeper中丢失,导致节点漂移。修复Kafka元数据后,问题得到解决。
摘要由CSDN通过智能技术生成

文章目录


在这里插入图片描述

1.概述

今天遇到一个问题,对方的环境总是提示没有资源,然后一直在提交中,然后我看了一下他们的yarn资源如下

在这里插入图片描述
发现只有72G,然后已经用了64G,但是我最后一个任务很小,只用2G。按理说不会这样。后面我打开详情查看。

发现任务总体是运行中,但是实际上一直在调度中,在申请资源

在这里插入图片描述
然后过了一会报错了,错误信息如下 Slot request bulk is not fulfillable! Could not allocate the required slot within slot request timeout

在这里插入图片描述
这里大概猜测是没有资源了。后面我们排查发现,我们最大并行度是8,但是我们的slot是4,这是不对的。但是这个不是我们手动配置的,是根据yarn节点、内存和kafka节点数来计算的,但是计算的不对

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值