Hive中order by,sort by,distribute by和cluster by详解

34 篇文章 16 订阅 ¥19.90 ¥99.00
本文详细介绍了Hive中的四种排序函数:order by(全局排序)、sort by(局部排序)、distribute by(分区排序)和cluster by(簇排序),包括它们的功能、使用场景及注意事项,帮助数据开发工程师更好地理解和运用这些函数,提升HQL性能和工作效率。
摘要由CSDN通过智能技术生成

前言

作为数据开发工程师,在平时工作中,肯定接到过产品小姐姐提的排序需求,例如在mysql数据库中,就是使用order by函数。在hive中也是有order by函数的,那么除了order by之外是否还有其他排序函数呢?今天就跟小伙伴们聊聊hive中有哪些排序函数以及使用场景!

1. order by

全局排序,默认升序。Hive在运行MR程序时会指定Reducer个数为1,因为多个reducer无法保证全局有序。这样就会导致当输入规模较大时,需要较长的计算时间。

注意:

  • 与数据库中 order by 的区别:在hive.mapred.mode = strict 模式下,必须指定 limit,否则执行会报错。 原因:如果在数据量大的情况下,一个reducer无法处理;如果指定limit n ,就只有 n * map number 条记录而已,一个reducer就可以正常处理。
  • 其他情况下,与数据库中的Order by 功能一致,即按照某一个或几个字段排序输出。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

笑看风云路

你的鼓励是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值