【Flink】为什么FLINK在CREATE阶段,会申请超过限制的队列核数

835 篇文章 825 订阅 ¥99.90 ¥99.00

在这里插入图片描述

1.概述

为什么FLINK在CREATE阶段,会打满队列核数,明明作业只用了100多核,然后等作业RUNNING之后,队列的核数一下子掉了?

FLINK在CREATE阶段打满队列核数的原因可能是由于FLINK在启动作业时需要进行一些准备工作和资源分配。在CREATE阶段,FLINK会进行作业图的构建、任务分配、资源申请等操作,这些操作可能需要使用大量的CPU资源来完成。

在Flink的CREATE阶段(作业创建阶段),Flink会根据作业的配置和资源需求来进行资源的申请和分配。这时候,Flink可能会一次性请求并占用队列中的所有核数,即使实际作业只需要使用部分核数。

这种行为的原因是为了在作业开始运行之前,预留足够的资源。在CREATE阶段,Flink会为作业请求并分配所需的资源,以确保作业能够在运行时获取到足够的计算资源。这包括作业需要的CPU核数、内存、网络带宽等资源。

一旦作业进入RUNNING阶段,Flink会根据实际需要来分配和使用资源。可能由于作业的计算任务较轻或者一些任务处于空闲状态,实际使用的核数会比在CREATE阶段分配的核数少。

当实际使用的核数减少时,队列中的核数就会相应地减少,以便其他作业或任务可以使用这些闲置的资源。

这种行为是Flink的资源管理策略的一部分,旨在优化资源利用并确保不同作业之间的公平共享。如果您想要进一步优化资源利用或控制资源分配,可以通过在作业提交前调整作业的配置参数,如taskmanager.numberOfTaskSlots、parallelism等来进行调整。

  • 13
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值