hadoop高级教程:新旧MapReduce API比较,从0.20.0版本开始,Hadoop同时提供了新旧两套MapReduce API。新API在旧API基础上进行了封装,使得其在扩展性和易用性方面更好。新旧版MapReduce API的主要区别如下。
(1)存放位置
旧版API放在org.apache.hadoop.mapred包中,而新版API则放在org.apache.hadoop.mapreduce包及其子包中。
(2)接口变为抽象类
接口通常作为一种严格的“协议约束”。它只有方法声明而没有方法实现,且要求所有实现类(不包括抽象类)必须实现接口中的每一个方法。接口的最大优点是允许一个类实现多个接口,进而实现类似C++中的“多重继承”。抽象类则是一种较宽松的“约束协议”,它可为某些方法提供默认实现。而继承类则可选择是否重新实现这些方法。正是因为这一点,抽象类在类衍化方面更有优势,也就是说,抽象类具有良好的向后兼容性,当需要为抽象类添加新的方法时,只要新添加的方法提供了默认实现,用户之前的代码就不必修改了。
考虑到抽象类在API衍化方面的优势,新API将InputFormat、OutputFormat、Mapper、Reducer和Partitioner由接口变为抽象类。
(3)上下文封装
新版API将变量和函数封装成各种上下文(Context)类,使得API具有更好的易用性和扩展性。首先,函数参数列表经封装后变短,使得函数更容易使用;其次,当需要修改或添加某些变量或函数时,只需修改封装后的上下文类即可,用户代码无须修改,这样保证了向后兼容性,具有良好的扩展性。
图展示了新版API中树形的Context类继承关系。这些Context各自封装了一种实体的基本信息及对应的操作(setter和getter函数),如JobContext、TaskAttemptContext分别封装了Job和Task的基本信息,TaskInputOutputContext封装了Task的各种输入输出操作,MapContext和ReduceContext分别封装了Mapper和Reducer对外的公共接口。
![](https://i-blog.csdnimg.cn/blog_migrate/05dbfb1a2012afd21a23936f4235fa31.jpeg)
除了以上三点不同之外,新旧API在很多其他细节方面也存在小的差别,具体将在接下来的内容中讲解。
由于新版和旧版API在类层次结构、编程接口名称及对应的参数列表等方面存在较大差别,所以两种API不能兼容。但考虑到应用程序的向后兼容性,短时间内不会将旧API从MapReduce中去掉。即使在完全采用新API的0.21.0/0.22.X版本系列中,也仅仅将旧API标注为过期(deprecated),用户仍然可以使用。
本章将对比介绍两套MapReduce API的设计细节。但考虑到新版API只是在旧版基础上封装而来的,因此,我们将详细分析旧版API的设计思路,而对于新版API,仅是概要介绍它与旧版本的不同之处。来源:CUUG官网