使用hadoop的datajoin包进行关系型join操作

本文介绍了如何使用Hadoop的datajoin包进行关系型JOIN操作,主要探讨了TaggedMapOutput的作用、DataJoinMapperBase的generateInputTag功能以及generateTaggedMapOutput在LEFT JOIN和RIGHT JOIN中的应用。尽管datajoin使用旧API,与MapperChain不兼容,但通过练习展示了如何筛选数据并执行RIGHT JOIN,以查询特定ID范围内的用户订单信息。
摘要由CSDN通过智能技术生成

datajoin包在hadoop的contrib目录下,我们也可以在src下面看见其源码,它的源码很小,我建议大体看看以了解其原理。

利用datajoin进行join操作,在《Hadoop in action》里面已经讲的十分清楚,在这里只提及值得注意的几个地方。

  1. TaggedMapOutput的目的是标识数据,让我们知道哪个记录是从哪里来的。
  2. DataJoinMapperBase类中的generateInputTag在map任务开始时被调用(还没进行map函数),其目的是生成tag,并自动存储于DataJoinMapperBase类的inputTag中。 
  3. generateTaggedMapOutput()用于生存带标签的数据,这可以让我们知道数据的来源,在我们想进行left join /right join的时候很有用,同时对于过滤数据等操作也有帮助。
  4. datajoin在当前是用旧API写的,也就是说Mapper子类是实现Mapper接口而不是扩展Mapper虚类,但是MapperChain.addMapper虽然是在旧API目录下面,但是却只支持扩展虚类的方式,相信当你数据流比较长的时候这会给你带来麻烦,这个问题我没有解决,重写datajoin包可能是一种好的方式,但你也可以手动执行多个作业来间接达到目的。

下面是我自己想的一个练习,由于上述的第4点的限制,这其实是一个不完整的练习。


           数据是《hadoop in action》的数据:

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 5
    评论
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值