什么情况下 Hive 可以避免进行 MapReduce?

前言

本文隶属于专栏《1000个问题搞定大数据技术体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!

本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系

正文

hive 为了执行效率考虑,简单的查询,就是只是 select,不带 count,sum,group by 这样的,都不走 MapReduce,直接读取 hdfs 目录中的文件进行 filter 过滤。

也就是所谓的本地模式

1、直接查询表的数据 不会进行 MapReduce

select * from employee;

2、查询语句中的过滤条件只是分区字段的情况下 不会进行 MapReduce。

select * from order_partition where month='2021-06';

此外,如果设置属性 set hive.exec.mode.local.auto=true; hive 也会尝试使用本地模式。

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值