datajoin包在hadoop的contrib目录下,我们也可以在src下面看见其源码,它的源码很小,我建议大体看看以了解其原理。
利用datajoin进行join操作,在《Hadoop in action》里面已经讲的十分清楚,在这里只提及值得注意的几个地方。
- TaggedMapOutput的目的是标识数据,让我们知道哪个记录是从哪里来的。
- DataJoinMapperBase类中的generateInputTag在map任务开始时被调用(还没进行map函数),其目的是生成tag,并自动存储于DataJoinMapperBase类的inputTag中。
- generateTaggedMapOutput()用于生存带标签的数据,这可以让我们知道数据的来源,在我们想进行left join /right join的时候很有用,同时对于过滤数据等操作也有帮助。
- datajoin在当前是用旧API写的,也就是说Mapper子类是实现Mapper接口而不是扩展Mapper虚类,但是MapperChain.addMapper虽然是在旧API目录下面,但是却只支持扩展虚类的方式,相信当你数据流比较长的时候这会给你带来麻烦,这个问题我没有解决,重写datajoin包可能是一种好的方式,但你也可以手动执行多个作业来间接达到目的。
下面是我自己想的一个练习,由于上述的第4点的限制,这其实是一个不完整的练习。
数据是《hadoop in action》的数据: