hadoop Unexpected end of input stream 错误

线上一个job出错,报错信息如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
Diagnostic Messages  for  this  Task:
Error
java.io.IOException: java.io.EOFException: Unexpected end of input stream
         at org.apache.hadoop.hive.io.HiveIOExceptionHandlerChain.handleRecordReaderNextException(HiveIOExceptionHandlerChain.java: 121 )
         at org.apache.hadoop.hive.io.HiveIOExceptionHandlerUtil.handleRecordReaderNextException(HiveIOExceptionHandlerUtil.java: 77 )
         at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java: 276 )
         at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java: 79 )
         at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java: 33 )
         at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.next(HiveContextAwareRecordReader.java: 108 )
         at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.moveToNext(MapTask.java: 196 )
         at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.next(MapTask.java: 182 )
         at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java: 52 )
         at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java: 428 )
         at org.apache.hadoop.mapred.MapTask.run(MapTask.java: 340 )
         at org.apache.hadoop.mapred.YarnChild$ 2 .run(YarnChild.java: 160 )
         at java.security.AccessController.doPrivileged(Native Method)
         at javax.security.auth.Subject.doAs(Subject.java: 396 )
         at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java: 1438 )
         at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java: 155 )
Caused by: java.io.EOFException: Unexpected end of input stream
         at org.apache.hadoop.io.compress.DecompressorStream.decompress(DecompressorStream.java: 143 )
         at org.apache.hadoop.io.compress.DecompressorStream.read(DecompressorStream.java: 83 )
         at java.io.InputStream.read(InputStream.java: 82 )
         at org.apache.hadoop.util.LineReader.readDefaultLine(LineReader.java: 209 )
         at org.apache.hadoop.util.LineReader.readLine(LineReader.java: 173 )
         at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java: 206 )
         at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java: 45 )
         at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java: 274 )
         ...  13  more

从报错信息来看,是和io读取有关系的,即在map阶段,数据读取出错导致。

通过explain extended查看读取的文件,因为是text的gz文件,使用zcat进行测试,最终定位到是由于gz文件异常导致。将有问题的数据删除后job恢复。



本文转自菜菜光 51CTO博客,原文链接:http://blog.51cto.com/caiguangguang/1436077,如需转载请自行联系原作者

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值