前言
作为数据开发工程师,在平时工作中,肯定接到过产品小姐姐提的排序需求,例如在mysql数据库中,就是使用order by函数。在hive中也是有order by函数的,那么除了order by之外是否还有其他排序函数呢?今天就跟小伙伴们聊聊hive中有哪些排序函数以及使用场景!
1. order by
全局排序,默认升序。Hive在运行MR程序时会指定Reducer个数为1,因为多个reducer无法保证全局有序。这样就会导致当输入规模较大时,需要较长的计算时间。
注意:
- 与数据库中 order by 的区别:在hive.mapred.mode = strict 模式下,必须指定 limit,否则执行会报错。 原因:如果在数据量大的情况下,一个reducer无法处理;如果指定limit n ,就只有 n * map number 条记录而已,一个reducer就可以正常处理。
- 其他情况下,与数据库中的Order by 功能一致,即按照某一个或几个字段排序输出。
本文详细介绍了Hive中的四种排序函数:order by(全局排序)、sort by(局部排序)、distribute by(分区排序)和cluster by(簇排序),包括它们的功能、使用场景及注意事项,帮助数据开发工程师更好地理解和运用这些函数,提升HQL性能和工作效率。
订阅专栏 解锁全文
7176

被折叠的 条评论
为什么被折叠?



