Hadoop拾遗——subprocess still running it ran on unusable node Broken pipe at PipeReducer.reduce

最新推荐文章于 2023-04-24 22:40:30 发布
最新推荐文章于 2023-04-24 22:40:30 发布
阅读量826 收藏
点赞数
分类专栏： hadoop 文章标签： hadoop mapreduce
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45847058/article/details/105908744
版权
博客讲述了在Hadoop MapReduce任务中遇到的问题，具体表现为subprocess仍在运行，导致任务在不可用节点上失败。错误信息包括'Broken pipe'异常。问题定位为字符串类型数据编码、内存不足和Pipe流数据未完全消耗。解决方案包括对字符串进行UTF-8编码、增加reducer内存以及确保完全消耗Pipe流中的数据。作者提供了错误版本与修正后的代码示例。
摘要由CSDN通过智能技术生成

Status : FAILED TaskAttempt killed because it ran on unusable node n31-165-194.byted.org:8052 (LOST) Container released on a lost node

Error: java.io.IOException: subprocess still running R/W/S=11753/10001/0 in:NA [rec/s] out:NA [rec/s] minRecWrittenToEnableSkip_=9223372036854775807 HOST=null USER=xxx HADOOP_USER=null last tool output

Broken pipe at org.apache.hadoop.streaming.PipeReducer.reduce(PipeReducer.java:129) at org.apache.hadoop.mapred.ReduceTask.runOldReducer(ReduceTask.java:490) at org.apache.hadoop.mapred.ReduceTask.run(ReduceTask.java:434) at org.apache.hadoop.mapred.YarnChild$2.run(YarnChild.java:165) at java.security.AccessController.doPrivileged(Native Method) at javax.security.auth.Subject.doAs(Subject.java:422) at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1709) at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:160)

问题定位：

字符串类型数据编码、内存及Pipe流数据未消耗完毕

最低0.47元/天 解锁文章
Model Serving
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TaskAttempt killed because it ran on unusable node IP:8041 Container released on a *lost* node
九师兄
05-15 2770
背景 执行一个kylin任务 然后报错 TaskAttempt killed because it ran on unusable nodekylin1.dtwave.dev.local:8041 Container released on a *lost* node 但是看着集群 主机都在的。 看着也没问题，但是不知道为什么报错。 ...
关于Hadoop-Streaming学习中碰到的问题
热门推荐
lming_08技术博客
07-28 1万+
Hadoop在分布式计算方面很强大，而Python在文本处理也是相当方便，那么有这两者的结合吗？有，答案就是Hadoop-Streaming。Hadoop-Streaming可以将Hadoop与主流语言结合起来，使用方便，效果很好。个人觉得Pig在处理数据集时很不方便，特别是在计算百分比等运算时，而Hadoop-Streaming是可以替代Pig的。 1.Streaming固定的代码，该代码可以...
MapReduce运行中遇到的问题
Make progress step by step everyday.....
05-17 2448
1：运行mapreduce任务任务过程中，出现下面现象,为啥？  TaskAttempt killed because it ran on unusable nodehadoopserver13:8041 Container released on a *lost* node    YARN error: TaskAttempt killed because it ran on unusab
Python学习笔记16：测试基础
qq_36333986的博客
04-24 674
测试驱动的编程测试四部曲。
hive使用python脚本导致java.io.IOException: Broken pipe异常退出
快乐程序员的专栏
10-10 8334
反垃圾rd那边有一个hql，在执行过程中出现错误退出，报java.io.IOException: Broken pipe异常，hql中使用到了python脚本，hql和python脚本近期没有人改过，在10.1号时还运行正常，但是在10.4号之后运行就老是出现相同的错误，而且错误出现在stage-2的reduce阶段，gateway上面的错误提示如下：
Hadoop Streaming 常见错误
太阳的味道
07-15 1763
1、streaming默认的情况下，mapper和reducer的返回值不是0，被认为异常任务，将被再次执行，默认尝试4次都不是0，整个job都将失败 [plain] view plaincopy java.lang.RuntimeException: PipeMapRed.waitOutputThreads(): subprocess fa
[YARN] 一个JDK的bug导致RM无法分配Container
张伟的专栏
09-19 4247
[YARN] 一个JDK的bug导致RM无法分配Container 一月 20, 2017 0 条评论 最近集群因为NM的OOM，然后决定把ContainerMetric给关闭了，然后采取了批量重启NM的方式，采取的步骤是先批量下线，然后在上线，后来发现集群任务越来越慢，集群的利用率越来越低 以下是集群可用内存，一直在增加 其中出现的现象是： 1.事件队列队列堆积非常严重，最高500W+...
MapReduce源码分析之Task中关于对应TaskAttempt存储Map方案的一些思考
weixin_33725272的博客
05-07 168
我们知道，MapReduce有三层调度模型，即Job——>Task——>TaskAttempt，并且： 1、通常一个Job存在多个Task，这些Task总共有Map Task和Redcue Task两种大的类型（为简化描述，Map-Only作业、JobSetup Task等复杂的情况这里不做考虑）； ...
Flink on YARN（下）：常见问题与排查思路
zhaowei121的博客
10-10 2116
Flink 支持 Standalone 独立部署和 YARN、Kubernetes、Mesos 等集群部署模式，其中 YARN 集群部署模式在国内的应用越来越广泛。Flink 社区将推出 Flink on YARN 应用解读系列文章，分为上、下两篇。上篇分享了基于 FLIP-6 重构后的资源调度模型介绍 Flink on YARN 应用启动全流程，本文将根据社区大群反馈，解答客户端和 Flink ...
running beyond virtual/physical memory limits问题解决
jp413670706的专栏
08-26 4846
Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 17/08/25 20:06:31 INFO mapreduce.Job: Task Id : attempt_1503705857308_0004_m_000000_0, Status : FAILE
Container killed on request. Exit code is 143 <property> <name>yarn.nodemanager.resource.
danielchan2518的专栏
01-06 1万+
mapreduce运行中发现有任务被kill掉，多半是因为内存分配不足造成，所有需要修改内存配置。 首先在yarn-site.xml中添加下面内容： &lt;property&gt; &lt;name&gt;yarn.nodemanager.resource.memory-mb&lt;/name&gt; &lt;value&gt;22528&lt;/v...
项目总结记录
Baron_ND的博客
04-02 181
18年项目总结 如果在运行spark的时候，有时候环境的问题需要引入其他的jar包，那么我们可以使用--driver-class-path $HBASE_HOME/lib/*:classpath也可以以在脚本前面执行export ****生成当前需要的环境 当前我们集群使用的版本 jdk1.8 spark2.11 hive2.1.1 hbase1.3.0 hadoop2.7.3 zookeepe...
AIOTrade 1.0.3 Released
dcaoyuan
11-16 75
I'm pleased to announce the 1.0.3 release of AIOTrade. You may download it via Sourceforge.net The new features had been listed in my previous blog Thanks for all the suggestions, bugs reports a...
kubectl label node hadoop103 node-role.kubernetes.io/node=node2 什么意思
最新发布
07-17
这个命令是用于为名为 "hadoop103" 的节点添加一个标签。标签的名称是 "node-role.kubernetes.io/node"，值是 "node2"。这意味着为节点 "hadoop103" 添加了一个名为 "node2" 的角色标签。这可以帮助 Kubernetes 集群...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值