Hive谓词下推之FULL JOIN



1、数据准备


准备两张表:

a表数据:

在这里插入图片描述

b表数据:

在这里插入图片描述

2、需求描述


将a表与b表rank=1的数据进行全连接,最终想要得到这样的结果:

在这里插入图片描述

本案例将使用full join连接类型进行演示,并透过full join来反映其它Hive谓词下推通用使用场景,得出普遍结论

3、FULL JOIN谓词下推


1)写法1:

select * from a full join b on a.id=b.id where b.rank=1;

结果如下:

在这里插入图片描述

解释:

b表先执行where过滤,过滤后再与a表进行full join,因此,b表中rank=2的数据丢失,结果不符合要求

2)写法2:

select * from a full join b on a.id=b.id and b.rank=1;

结果如下:

在这里插入图片描述

解释:

a表与b表互相没有匹配到的数据显示为NULL,数据不会丢失,但数据冗余,结果不符合要求

3)写法3:

select * from a full join (select * from b where rank=1) t on a.id=t.id;

结果如下:

在这里插入图片描述

解释:

a表与b表互相没有匹配到的数据显示为NULL,数据不会丢失,也不会冗余,结果符合要求

4、普遍结论


通过full join案例,我们可以得出Hive谓词下推时的以下结论:

  • on会显示所有匹配条件的值,不匹配条件的数据补NULL;where只显示满足条件的数据
  • on作用不同类型的多表连接时结果不同;where只起连接作用,不同类型的多表连接时结果相同
  • 无论使用on或where,一定要去先考虑一下关键词的执行顺序,否则结果可能与预期完全不同

Hive谓词下推详解见文章:传送门


  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
谓词下推是指在Hive中,尽量将过滤条件提前执行,使得最后参与join的表的数据量更小,从而减少数据传输IO,节约资源,提升性能。无论在Hive中是否开启了CBO(Cost-Based Optimizer),无论谓词写在ON后面还是WHERE后面,内连接(Inner Join)都会进行谓词下推。 在Hive中,谓词下推也称为Predicate Pushdown。它的实现方式是在map端提前执行过滤条件,减少map端的输出数据量。这样可以减少数据的传输和IO操作,提高查询性能。默认情况下,Hive会开启谓词下推,可以通过配置hive.optimize.ppd参数为true来开启或关闭谓词下推功能。 另外,在Hive中,如果在JOIN中有不能匹配上的表,则会使用null填充该表,这个表被称为Null Supplying Table。它是一种非保留表,用于提供null值。 综上所述,Hive SQL中的谓词下推是指在不影响结果的前提下,尽量将过滤条件提前执行,减少数据传输IO,节约资源,提升性能的优化技术。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [一文详解Hive谓词下推](https://blog.csdn.net/java_atguigu/article/details/123064220)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值