Hive map-side Join

3 篇文章 0 订阅

如果表join时,有一张表时小表,那么可以在最大的表通过mapper时将小标完全放倒内存中。Hive可以在map端执行连接过程,叫map-side Join。因为map可以和内存中的小标逐一匹配,从而省略掉常规连接操作所需要的的reduce过程。即使对于很小的数据集,这个优化也很明显的要快于常规的连接操作。补交减少了reduce的过程,有事还可以减少map过程的执行步骤。

在hive0.7之前的版本中可以通过指定小表来实现map join,如下

select /*+ MAPJOIN(b) */  a.id,a.name,b.addr
from person_info a join address_info b
on a.addr_id=b.id

hive0.7开始,提供了更便捷的方式来实现map join,当然也兼容手动指定小表,需要如下设置

set hive.auto.convert.join=true;

用户可以自定义小表的大小

set hive.mapjoin.smalltable.filesize=25000000   --单位是字节,该设置表示25M

需要注意的是该优化对right join和full join不支持

如果join的两张表都是桶表,并且数据是按照join on中的键来分桶,而且其中一张表的个数是另一张表的若干倍,那么满足这些条件时,Hive可以在map阶段按照分桶数据进行连接。这种情况,不需要获取到表中所有内容才去和另一张表中每个分桶连接
开启优化该优化方法:

set hive.optimize.bucketmapjoin=true;

如果所涉及的分桶表都具有相同的分桶数,而且数据是按照连接键或桶的键进行排序,那么hive可以执行一个更快的分类-合并连接(sort-merge JOIN)。开启方法如下:

set hive.input.format=org.apache.hadoop.hive.ql.io.BucketizedHiveInputFormat;
set hive.optimize.bucketmapjoin=true;
set hive.optimize.bucketmapjoin.sortemerge=true;

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值