spark 终止 运行_解决 Amazon EMR 上 Spark 中的“根据要求终止容器。退出代码 137”错误...

如何解决 Amazon EMR 上 Spark 中的“根据要求终止容器。退出代码 137”错误?

上次更新时间:2020 年 1 月 8 日

我在 Amazon EMR 上的 Apache Spark 作业失败,并出现“根据要求终止容器”阶段故障:

Caused by: org.apache.spark.SparkException: Job aborted due to stage failure: Task 2 in stage 3.0 failed 4 times, most recent failure: Lost task 2.3 in stage 3.0 (TID 23, ip-xxx-xxx-xx-xxx.compute.internal, executor 4): ExecutorLostFailure (executor 4 exited caused by one of the running tasks) Reason: Container marked as failed: container_1516900607498_6585_01_000008 on host: ip-xxx-xxx-xx-xxx.compute.internal. Exit status: 137. Diagnostics: Container killed on request. Exit code is 137

简短描述

当容器(Spark 执行程序)内存不足时,YARN 会自动将其终止。这会导致“根据要求终止容器。退出代码 137”错误。这些错误可能发生在不同的作业阶段,无论是窄还是宽转换。

解决方法

使用以下一种或多种方法来解决“退出状态: 137”阶段故障:

增加驱动程序或执行程序内存

通过调整 spark.executor.memory 或 spark.driver.memory 参数来增加容器内存(取决于导致错误的容器)。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值