Linux运行oozie任务拒绝连接,oozie中运行mapreduce node-action时的常见异常解决方法

在第一次使用oozie来管理mapreduce工作流时,出现了如下异常:

java.io.IOException: Type mismatch in key from map: expected org.apache.Hadoop.io.LongWritable, recieved org.apache.hadoop.io.Text

at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.collect(MapTask.java:872)

at org.apache.hadoop.mapred.MapTask$OldOutputCollector.collect(MapTask.java:499)以上错误,相信是大家在刚开始使用hadoop的时候都会遇到的错误,出错是因为输出格式的数据类型不匹配。

hadoopOutputCollector对象默认的存放数据的格式为,但在本例中,key传入的实际值为Text类型,所以会报错,现在需要设置其输出格式,改为类型。以前写的mapreduce是从main方法里进行驱动和运行的,在main方法里面设置了如下参数:

conf.setOutputKeyClass(Text.class);

conf.setOutputValueClass(IntWritable.class);

以上参数是设置输出格式(及key和value类型)。但在oozie中,直接配置的是map类,无法从main方法运行,所以必须指定输出格式,有如下两种方法:

1.在map类里面加入静态代码块(在类初始化的时候就会执行)

static{

JobConf conf = new JobConf();

conf.setOutputKeyClass(Text.class);

conf.setOutputValueClass(IntWritable.class);

}

2.在oozie的workflow.xml中进行配置,参考如下:

mapred.output.key.class

org.apache.hadoop.io.Text

mapred.output.value.class

org.apache.hadoop.io.IntWritable

注,要在lib目录下把hadoop-core-0.20.2-cdh3u6.jar包放进去0b1331709591d260c1c78e86d0c51c18.png

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值