1、如何分析一个"排序算法"?
学习排序算法,我们除了学习它的算法原理、代码之外,更重要的是学会如何评价、分析一个排序算法。那分析一个排序算法,要从哪几个方面入手呢?
- 排序算法的执行效率
对于排序算法执行效率的分析,我们一般会从 几个方面来衡量:
1、最好情况、最坏情况、平均情况时间复杂度
我们在分析排序算法的时间复杂度时,要分别给出最好情况、最坏情况、平均情况下的时间复杂度。除此之外,你还要说出最好、最坏时间复杂度对应的要排序的原始数据是什么样的?
- 为什么要区分这三种时间复杂度呢?
第一、有一些排序算法会区分,为了好对比,所以我们最好都做一下区分。
第二、对于要排序的数据,有的接近排序,有的完全无序。有序度不同的数据,对于排序执行时间肯定是有影响的,我们要知道排序算法在不同数据下的性能表现。
2、时间复杂度的系数、常数、低阶
我们知道,时间复杂度反应的是数据规模n很大的时候的一个增长趋势,所以它表示的时候会忽略系数、常数、低阶。但是实际的软件开发过程中,我们排序的可能是10个,100个,1000个这样规模很小的数据,所以,在对同一阶时间复杂度的排序算法性能对比的时候,我们就要把系数、常数、低阶也要考虑进来。
3、比较次数和交换(或移动)次数
基于比较的排序算法的执行过程,会涉及两种操作,一种是元素比较大小,另一种是元素交换或移动。所以,如果我们在分析排序算法的执行效率的时候,应该会把比较次数和交换(或移动)次数也考虑进去。
- 排序算法的内存消耗
算法的内存消耗可通过,空间复杂度来衡量,排序算法也不例外。不过,针对排序算法的空间复杂度,我们还引入了一个新的概念,原地排序(Sorted in place)。原地排序算法,就是特指空间复杂度是O(1)的排序算法。我们提到的三种排序算法,都是原地排序算法。
- 排序算法的稳定性
仅仅用执行效率和内存来衡量排序算法的好坏是不够的。针对排序算法,我们还有一个重要的度量指标,稳定性。这个概念是说,如果待排序的序列中存在值相等的元素,经过排序之后,相等元素之间原有的先后顺序不变。
我们通过一个例子来解释以下。比如我们有一组数据2,9,3,4,8,3,按照大小排序之后就是2,3,3,4,8,9.
这组数据里面有两个3。经过某种排序算法排序之后,如果两个3的前后顺序没有改变,那我们就把这种排序算法叫作稳定的排序算法;如果前后顺序发生变化,那对应的排序算法就叫作不稳定的排序算法。
你可能要问了,两个3哪个在前,哪个在后有什么关系,稳不稳定又有什么关系呢?为什么考察排序算法的稳定性呢?
很多数据结构和算法课程,在讲排序的时候,都是用整数来举例,但是在真正的软件开发过程中,我们要排序的往往不是单纯的整数,而是一组对象,我们需要按照这个对象的某个key来排序。
比如说,我们现在要给电商交易系统中的"订单"排序。订单有两个排序,一个是下单时间,另一个是订单金额。如果现在有10万条订单数据,我们希望从金额从小到大对订单数据排序。对于金额相同的订单,我们希望按照下单时间从早到晚有序。对于这一个排序需求,我们怎么来做呢?
最先想到的方法的是:我们先按照金额对订单数据进行排序,然后,在遍历排序之后的订单数据,对于每个金额相同的小区间按照下单时间排序。这种排序思路理解起来不难,但是实现起来会很复杂。
借助稳定排序算法,这个问题非常简洁地解决。解决思路是这样的:我们先按照下单的时间给订单排序,注意是按照下单的时间,不是金额。排序完成后,我们用稳定的排序算法,按照订单金额重新排序。两遍排序之后,我们得到的订单数据就是按照金额从大到小排序,金额相同的订单按照下单时间总早到晚排序的,为什么呢?
稳定排序算法可以保持金额相同的两个对象,在排序之后的前后顺序不变。第一次排序之后,所有的订单按照下单时间从早到晚有序了。在第二次排序中,我们用的是稳定排序算法,所以经过第二次排序之后,相同金额的订单仍然保持下单时间从早到晚有序。
- 冒泡排序(Bubble sort)
我们从冒泡排序开始,学习今天的三种排序算法。
冒泡排序只会操作相邻的两个数据,每次冒泡操作对会对相邻的两个元素进行比较,看是否满足大小关系的要求。如果不满足就让它俩互换。一次冒泡会让至少一个元素移动到它应该在的位置,重复n次,就会完成n个数据的排序工作。
举个例子:
对一组数据4,5,6,3,2,1,从小到大进行排序。第一次冒泡排序的详细操作过程就是这样:
经过第一次冒泡操作之后,6这个元素已经存储在正确的位置上。要想完成所有数据的排序,我们只要进行6次这样的冒泡排序操作就够了。
实际上刚才的冒泡过程还可以优化。当某次冒泡操作已经没有数据交换时,说明已经达到完全由序,不用再继续执行后续的冒泡操作。
举个例子:
给下面6个元素排序,只需要4次冒泡操作就可以了。
冒泡排序算法的原理比较容易理解,代码如下:
- 结合,刚刚分析排序算法的三个方面,有三个问题:
第一:冒泡排序是原地排序算法吗?
冒泡的过程只涉及相邻数据的交换操作,只需要常量级别的临时空间,所以它的空间复杂度为O(1),是一个原地排序算法。
第二:冒泡排序是稳定的排序算法吗?
在冒泡排序中,只有交换才可以改变两个元素的前后顺序。为了保证冒泡排序算法的稳定性,当有相邻的两个元素大小相等的时候,我们不做交换,相同大小的数据在排序前后不会改变顺序,所以冒泡排序是稳定的排序算法。
第三:冒泡排序的时间复杂度是多少?
最好的情况下,要排序的数据已经是有序的,我们只需要一次冒泡排序就可以,所以最好情况时间复杂度是O(n)。而最坏的情况是,要排序的数据刚好是倒序排列的,我们需要进行n次冒泡操作,所以最坏情况时间复杂度为O(n^2);
最好、最坏情况下的时间复杂度容易分析,那平均情况下的时间复杂度是多少?平均时间复杂度就是加权平均期望时间复杂度,分析的时候要结合概率论知识。
对于包含n个数据的数组,这n个数据就有n!中排列方式。不同的排列方式,冒泡排序执行的时间肯定是不同的。比如我们前面举的两个例子,其中一个要进行6次冒泡排序,而另一个只需要4次。如果用概率论方法定量分析平均时间复杂度,涉及的数学推理和计算就会很复杂。那么有另外一种思路,通过"有序度"和"逆序度"这两个概念来进行分析。
有序度是数组中具有有序关系的元素对的个数。有序元素对用数学表达式就是这样:
同理,对于一个倒序排列的数组,比如:6,5,4,3,2,1,有序度是0;对于一个完全有效的数组,比如:1,2,3,4,5,6,有序度就是n*(n-1)/2,也就是15.我们把这种完全有序的数组的有序度叫作满有序度。
逆序度的定义正好跟有序度相反(默认从大到小为有序)。关于逆序度可以对照有序度的例子自己看下。
关于这三个概念,我们还可以得到一个公式:逆序度=满有序度-有序度。我们排序的过程就是一种增加有序度,减少逆序度的过程,最后达到满有序度,就说明排序完成了。
还是拿前面的冒泡例子来说明。要排序的数组的初始状态是4,5,6,3,2,1,其中,有序元素对有(4,5)(4,6)(5,6),所以有序度是3。n=6,所以排序完成之后终态的满有序度为n*(n-1)/2=15。
冒泡排序包含两个操作原子,比较和交换。每交换一次,有序度就加1.不管算法怎么改进,交换次数总是确定的,即为逆序度,也就是n*(n-1)/2-初始有序度。此例中就是15-3=12,要进行12次交换操作。
对于包含n个数据的数组进行冒泡排序,平均交换次数是多少呢?最坏情况下,初始状态有序度是0,所以要进行n*(n-1)/2次交换。最好情况下,初始状态的有序度是n*(n-1)/2,就不需要进行交换。我们可以取个中间值n*(n-1)/4,来表示初始有序度既不是很高也不是很低的平均情况。
换句话说,平均情况下,需要n*(n-1)/4次交换操作,比较操作肯定要比交换操作多,而复杂度的上限是O(n^2),所以平均情况下的时间复杂度为O(n^2)。
- 插入排序
一个有序的数组,往里面添加一个新的数据后,如何保持数据有序呢?其实我们只需要遍历数组,找到数据应该插入的位置将其插入即可。
这是一个动态排序的过程,即动态地往有序集合中添加数据,我们可以通过这种方法保持集合中的数据一直有序。而对于一组静态数据,我们也可以借鉴上面讲的插入方法,来进行排序,于是就有了插入排序算法。
- 那插入排序具体是如何借助上面的思想来实现排序的呢?
首先,我们将数组中的数据分为两个区间,已排序区间和未排序区间。初始已排序区间只有一个元素,就是数组的第一个元素。插入算法的核心思想是取未排序区间中的元素,在已排序区间中找到合适的插入位置将其插入,并保证已排序区间数据已知有序。重复这个过程,直到未排序区间中元素为空,算法结束。
如图所示,要排序的数据是4,5,6,1,3,2,其中左侧为已排序区间,右侧为未排序区间。
插入排序也包含两种操作,一种是元素的比较,一种是元素的移动。当我们需要建一个数据a插入到已排序区间时,需要拿a与已排序区间的元素依次比较大小,找到合适的插入位置。找到合适的插入位置。找到插入点之后,我们还需要将插入点之后的元素顺序往后移动一位,这样才能腾出位置给元素a插入。
对于不同的查找插入点方法(从头到尾,从尾到头),元素的比较次数是有区别的。但对于一个给定初始序列,移动操作的次数总是固定的,就等于逆序度。
- 为什么说移动次数就等于逆序度呢?
那刚才的例子画了一个图表。满序度是n*(n-1)/2=15,初始序列度是5,所以逆序度是10。插入排序中,数据移动的总和也等于10=3+3+4;
插入排序代码如下:
- 这里同样有三个问题:
第一、插入排序是原地排序算法吗?
从实现过程可以明显地看出,插入排序算法的运行并不需要额外的存储空间,所以空间复杂度是O(1),也就是,这是一个原地排序算法。
第二、插入排序是稳定的排序算法吗?
在插入排序中,对于值相同的元素,我们可以选择将后面出现的元素,插入到前面出现元素的后面,这样就可以保持原有的前后顺序不变,所以插入排序是稳定的排序算法。
第三、插入排序的时间复杂度是多少?
如果要排序的数据已经是有序的,我们并不需要搬移任何数据。如果我们从尾到头在有序数据组里查找插入位置,每次只需要比较一个数据就能确定插入的位置。所以这种情况下,最好的时间复杂度就是O(n)。注意,这里是从尾到头遍历已有序的数据。
如果数组是倒序的,每次插入都相当于在数组的第一个位置插入新的数据,所以需要大量的数据,所以最坏情况时间复杂度为O(n^2)。
对插入排序来说,每次插入操作都相当于在数组中插入一个数据,循环执行n次操作,所以平均时间复杂度为O(n^2)。
- 选择排序(Selection Sort)
选择排序算法的实现思路有点类似插入排序,也分已排序区间和未排序区间。但是选择排序每次会从未排序中间找到最小的元素,将其放到已排序区间的末尾。
选择排序空间复杂度为O(1),是一种原地排序算法。选择排序好的最好情况时间复杂度、最坏情况和平均情况时间复杂度都为O(n^2).
- 那选择排序是稳定的排序算法吗?
答案是否定的,选择排序是一种不稳定的排序算法。从前面的那张图中,你可以看出来,选择排序每次都要找剩余未排序元素中的最小值,并和前面的元素交换位置,这样破坏了稳定性。
比如:5,8,5,2,9这样一组数据,使用选择排序算法来排序的话,第一次找到了最小元素2,与第一个5交换位置,那第一个5和中间的5顺序就变了,所以就不稳定了。正是这样,相对于冒泡排序和插入排序,选择-排序就逊色了。
- Q:冒泡排序和插入排序的时间复杂度都是O(n^2),都是原地排序算法,为什么插入排序要比冒泡排序更受欢迎呢?
前面讲到,冒泡排序不管怎么优化,元素交换的次数是一个固定值,是原始数据的逆序度。插入排序是同样的,不管怎样优化,元素移动的次数也等于原始数据的逆序度。
但是,从代码实现上看,冒泡排序的数据交换要比插入排序的数据移动要复杂,冒泡排序需要3个赋值操作,而插入排序只需要1个,代码如下:
我们把执行一个赋值语句的时间粗略地计为单位时间(unit_time),然后分别用冒泡排序和插入排序对同一个逆序度是K的数组进行排序。用冒泡排序,需要K次交换操作,每次需要3个赋值语句,所以交换操作总是耗时是3*K单位时间。而插入排序中数据移动操作只需要K个单位时间。
所以,虽然冒泡排序和插入排序在时间复杂度上是一样的,都是O(n^2),但是如果我们希望把性能优化做到极致,那肯定首选插入排序,插入排序的算法思路也会有很大的优化空间。
以上关于冒泡排序、选择排序、插入排序的总结如下:
更多技术知识和图像处理、深度学习、IT资料,请关注微信公众号:
Change,There is no better way!