Hadoop使用MultipleOutputs输出多文件或者指定命名

本文介绍了如何在Hadoop中利用MultipleOutputs实现多文件输出及自定义文件命名。在(一)输出多文件部分,强调了在reduce或map中创建MultipleOutputs对象,以及配置附加输出文件的关键步骤。在(二)指定输出命名中,详细讲解了创建、初始化变量,并在map/reduce中使用这些变量代替context.write()的方法,同时提醒注意在有内容时创建文件以避免空文件的生成。
摘要由CSDN通过智能技术生成

Hadoop使用MultipleOutputs输出多文件或者指定命名

@(HADOOP)[hadoop]

(一)输出多文件(未测试)

比如将不同国家的信息分别输出到一份对应的文件中。

1、在reduce或map类中创建MultipleOutputs对象,将结果输出

class reduceStatistics extends Reducer<Text, IntWritable, Text, IntWritable>{  

    //将结果输出到多个文件或多个文件夹  
    private MultipleOutputs<Text,IntWritable> mos;  
    //创建对象  
    protected void setup(Context context) throws IOException,InterruptedException {  
        mos = new MultipleOutputs<Text, IntWritable>(context);  
     }  

        //关闭对象  
    protected void cleanup(Context context) throws IOException,InterruptedException {  
        mos.close();  
    }  
}  

2、在map或reduce方法中使用MultipleOutputs对象输出数据,代替congtext.write()
Java代码 收藏代码

protected void reduce(Text key, Iterable<IntWritable> values, Context context)  
            throw
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值