数据蒋堂 | 再谈有序分组


来源:数据蒋堂

作者:蒋步星

本文长度为1200,建议阅读2分钟

本文为你分析考虑集合的有序性,结果集的成员次序是否具有业务意义。


细心的读者可能会发现,我们在讨论有序分组时只研究了待分组集合的成员次序对分组运算可能的影响,但即然要考虑集合的有序性,那么结果集的成员次序是不是也有业务意义呢?

确实有意义,不过重要程度不如原集有序性。

分组结果集的有序性有两个方面,一是这些分组子集以什么次序返回,二是分组子集的成员是什么次序构成的。

在考虑有序集合的等值分组运算时,我们认为在缺省状态下分组子集保持原序最为合理,即每个分组子集成员第一次在原集中出现的次序。这个原因在于:其它次序(比如按分组字段值)可以针对结果集再排序而获得,而原序很可能在分组完成后就丢失了,或者至少再获得会比较困难。

比如我们要统计一本教科书中单词的重复次数,这是个简单的等值分组运算,缺省的结果集应当是以新单词在书中出现的先后次序为序的,这个次序是有业务意义的,向学生讲授这本书时可以按该次序让学生预习生词。而这个次序如果不是在分组运算后返回,就会很难获得了。需要给每个单词人为增加一个在书中出现的次序号,分组时同时把次序号的最小值也统计出来,然后再按这个值排序,最后又丢弃这个值。运算过程繁琐且效率低。

对位分组和枚举分组的结果集次序,显然应当与基准集合一致。而有序分组的结果集次序,则显然按每个分组产生的次序最为合理。

基于无序集合的SQL没有约定分组结果集的次序,返回结果集就不能保证原序了。在实践上,数据库一般是采用HASH方法来实现分组的,这时结果集的次序常常是HASH值的次序,而HASH值次序毫无业务意义,在关心次序时就需要再排序,而为了获得排序依据就要像前面例子中说的那样在原集中新增序号信息,并参与到分组运算中,麻烦且低效。还有的数据库是用排序来做分组,结果集的次序就是分组字段(表达式)的次序,这个次序有一定业务意义了,但想还原出原序也不容易。

我们前面说过,SQL中用LEFT JOIN的方法可以实现出对位和枚举分组的效果,但无论是HASH方法还是排序方法,结果集都会丧失基准集合的次序。而对位和枚举分组的结果集次序又是非常必要的,想通过再排序来获得这个次序,需要在基准集合中维护次序号,这会使得本来简单的单值成员集合变成多字段的记录集合,而且当基准集合需要插入/删除成员时还要继续维护序号会是件很麻烦的事情,被改动成员后面的成员序号都要调整。所以SQL实现对位和枚举分组是个很繁琐的事情。

至于子集成员的次序,原则上也应当缺省保持原序,也就是在原集合中的次序。不过,它是否有意义取决于后续要执行的动作。

比如SQL就完全不关心这个次序,SQL在分组后会强制聚合,而且只有SUMM/COUNT这些运算结果与执行次序无关的常规聚合运算,分组子集的成员次序就没有意义了。

但有些非常规聚合运算可能和执行次序有关,比如用登录日志(日志缺省都是按事件发生时刻有序的)列出每个用户的最后两次登录的时间间隔,就是按用户分组后取出分组子集的最后两条记录计算时间差,这时就会关心子集成员的次序了。不过,这已经是聚合运算的范畴了,我们将在后面的文章中再详细讨论。

专栏作者简介

润乾软件创始人、首席科学家


清华大学计算机硕士,著有《非线性报表模型原理》等,1989年,中国首个国际奥林匹克数学竞赛团体冠军成员,个人金牌;2000年,创立润乾公司;2004年,首次在润乾报表中提出非线性报表模型,完美解决了中国式复杂报表制表难题,目前该模型已经成为报表行业的标准;2014年,经过7年开发,润乾软件发布不依赖关系代数模型的计算引擎——集算器,有效地提高了复杂结构化大数据计算的开发和运算效率;2015年,润乾软件被福布斯中文网站评为“2015福布斯中国非上市潜力企业100强”;2016年,荣获中国电子信息产业发展研究院评选的“2016年中国软件和信息服务业十大领军人物”;2017年, 自主创新研发新一代的数据仓库、云数据库等产品即将面世。


数据蒋堂

《数据蒋堂》的作者蒋步星,从事信息系统建设和数据处理长达20多年的时间。他丰富的工程经验与深厚的理论功底相互融合、创新思想与传统观念的相互碰撞,虚拟与现实的相互交织,产生出了一篇篇的沥血之作。此连载的内容涉及从数据呈现、采集到加工计算再到存储以及挖掘等各个方面。大可观数据世界之远景、小可看技术疑难之细节。针对数据领域一些技术难点,站在研发人员的角度从浅入深,进行全方位、360度无死角深度剖析;对于一些业内观点,站在技术人员角度阐述自己的思考和理解。蒋步星还会对大数据的发展,站在业内专家角度给予预测和推断。静下心来认真研读你会发现,《数据蒋堂》的文章,有的会让用户避免重复前人走过的弯路,有的会让攻城狮面对扎心的难题茅塞顿开,有的会为初入行业的读者提供一把开启数据世界的钥匙,有的甚至会让业内专家大跌眼镜,产生思想交锋。


往期回顾:

数据蒋堂 | 有序分组

数据蒋堂 | 非等值分组

数据蒋堂 | 还原分组运算的本意

数据蒋堂 | 有序遍历语法

数据蒋堂 | 常规遍历语法

数据蒋堂 | 从SQL语法看离散性

数据蒋堂 | 从SQL语法看集合化

数据蒋堂 | SQL用作大数据计算语法好吗?

数据蒋堂 | SQL的困难源于关系代数

数据蒋堂 | SQL像英语是个善意的错误

数据蒋堂 | 开放的计算能力为数据库瘦身

数据蒋堂 | 计算封闭性导致臃肿的数据库

数据蒋堂 | 怎样看待存储过程的移植困难

数据蒋堂 | 存储过程的利之弊

数据蒋堂 | 不要对自助BI期望过高

数据蒋堂 | 报表的数据计算层

数据蒋堂 | 报表应用的三层结构

数据蒋堂 | 列式存储的另一面

数据蒋堂 | 硬盘的性能特征

数据蒋堂 | 我们需要怎样的OLAP?

数据蒋堂 | 1T数据到底有多大?

数据蒋堂 | 索引的本质是排序

数据蒋堂 | 功夫都在报表外--漫谈报表性能优化

数据蒋堂 | 非结构化数据分析是忽悠?

数据蒋堂 | 多维分析的后台性能优化手段


校对:谭佳瑶


为保证发文质量、树立口碑,数据派现设立“错别字基金”,鼓励读者积极纠错

若您在阅读文章过程中发现任何错误,请在文末留言,或到后台反馈,经小编确认后,数据派将向检举读者发8.8元红包

同一位读者指出同一篇文章多处错误,奖金不变。不同读者指出同一处错误,奖励第一位读者。

感谢一直以来您的关注和支持,希望您能够监督数据派产出更加高质的内容。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值