Hadoop Streaming 常见错误（不断更新ing)

最新推荐文章于 2023-08-14 21:00:00 发布

Chuck_lee

最新推荐文章于 2023-08-14 21:00:00 发布

阅读量2.4k

点赞数

分类专栏： Hadoop 文章标签： hadoop

本文链接：https://blog.csdn.net/lhzblog/article/details/41021261

版权

本文列举并解决了Hadoop Streaming在使用过程中遇到的一些常见问题，包括非零退出值被视为失败的任务、CLASSPATH环境变量未设置以及在调用HDFS C接口时遇到的JNI_CreateJavaVM失败问题。同时，提供了grep和awk在Hadoop Streaming中的应用示例，并指出在调试mapred程序时可能出现的错误及其解决方法——使用dos2unix转换脚本编码。

摘要由CSDN通过智能技术生成

1、streaming默认的情况下，mapper和reducer的返回值不是0，被认为异常任务，将被再次执行，默认尝试4次都不是0，整个job都将失败

java.lang.RuntimeException: PipeMapRed.waitOutputThreads(): subprocess failed with code 127
	at org.apache.hadoop.streaming.PipeMapRed.waitOutputThreads(PipeMapRed.java:320)
	at org.apache.hadoop.streaming.PipeMapRed.mapRedFinished(PipeMapRed.java:533)
	at org.apache.hadoop.streaming.PipeMapper.map(PipeMapper.java:120)
	at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:54)
	at org.apache.hadoop.streaming.PipeMapRunner.run(PipeMapRunner.java:34)
	at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:429)
	at org.apache.hadoop.mapred.MapTask.run(MapTask.java:341)
	at org.apache.hadoop.mapred.YarnChild$2.run(YarnChild.java:162)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:396)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1491)
	at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:

解决方法：