【flink】flink作业超额启动多个taskManager k8s

839 篇文章 855 订阅 ¥99.90 ¥299.90
Flink作业配置启动4个taskManager,实际却启动了十几个,导致集群资源耗尽。JobManager仅监控到3个taskManager,作业持续尝试启动新taskManager并保持在创建状态。怀疑因taskManager失联引起问题,同时存在失联TM pod未被清理,可能与K8s网络性能有关。建议检查TM错误日志,调整Akka超时设置。
摘要由CSDN通过智能技术生成

在这里插入图片描述

1.概述

flink作业按照配置应该启动4个taskManager,但是现在发现一个作业启动了十几个taskManager,jobManager只监控到3个taskManager,导致集群资源耗尽,启动不了新的taskManager了。还在不断尝试启动一个新的taskManager,导致作业一直在创建状态

我怀疑作业运行一段时间,和某些taskManager失联了,然后疯狂启动tm,并伴随部分tm失联,失联的tm pod也没有被清理掉,直到资源被tm耗尽。

on K8s网络性能确实不太好,我们之前测试环境的小机器小带宽也是各种毛病

可以看看TM报的什么错,然后适当调调Akka超时或者心跳超时之类的

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值