hive mapjoin总结

1.map join无reduce操作,所以没有shuffle。这样可以减少大量的网络I/O。(如:大表文件数500、文件250M,小表20M。map join的网络I/O共50020M,Common join的网络I/O共500250M+20M),同时不需要进行map sort和shuffle sort排序。
2.由于Common join的一个reduce包含两张表的数据,所以进行reduce的join先将一张表的数据加载到内存后才能跟另外一张表的数据join,如果加载的是大表需要reduce大量的内存。
3.由于小表转换为HashTable结构,map join在对数据进行join很快,哈希算法的时间为O(1)。
4.map join需要将小表加载DistributeCache是存在Driver内,大表map从Driver拉取小表数据。所以小表数据量不宜过大。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值