记一次doris任务出错--内存爆满

1.问题

doris集群新增调度任务后,任务出错频率很高,报错内容:Process has no memory available, cancel top memory used load
查看Doris监控内存状况如下:

新增任务后内存波动非常大,峰值达到服务器80%的上限,导致任务失败。

2.解决思路

结合对我们数据的了解及各个任务运行数据量的大小,考虑到是因为大任务并行导致集群资源波动大,峰值过高。所以我们将大任务做强制依赖,错峰出行。比如任务A、B、C之间没有血缘关系,我们强制让任务A依赖于任务B,任务B依赖任务C。调整后资源问题优化效果明显:

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值