Hadoop MapReduce 配置加载机制

本文深入探讨Hadoop MapReduce的配置加载机制,从Job类、JobContext及其继承关系出发,详细解释Configuration类的角色以及JobConf的使用。重点在于如何添加和覆盖用户自定义配置,例如设置mapreduce.combiner.run.only.once属性,通过MRJobConfig接口扩展并实现自定义获取和设置方式。
摘要由CSDN通过智能技术生成

前言

我们运行Hadoop MapReduce程序之前,都会配置job对象,通常的程序入口如下编写:

  public static void main(String[] args) throws Exception {
    Configuration conf = new Configuration();
    String[] otherArgs = new GenericOptionsParser(conf, args).getRemainingArgs();
    if (otherArgs.length < 2) {
      System.err.println("Usage: wordcount <in> [<in>...] <out>");
      System.exit(2);
    }
    Job job = new Job(conf, "word count");
    job.setJarByClass(WordCount.class);
    job.setMapperClass(TokenizerMapper.class);

这里主要涉及两个类,Configuration 类和Job 类,我们通过这两个类出发,来仔细研究一下Hadoop MapReduce 配置加载机制

继承关系

Job类,JobContextImpl 类,JobContext接口,MRJobConfig接口的继承关系如下

 class Job extends JobContextImpl implements JobContext
 class JobContextImpl implements JobContext
 interface JobContext extends MRJobConfig

MRJobConfig接口中存放了MapReduce程序所有的可以配置的参数的Key值。

public interface MRJobConfig {
   

  // P
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值