文章参考:http://blog.csdn.net/v_JULY_v/article/details/6370650
本文是基于上文链接的内容进行裁剪,在自己的理解层次上写出的文章。
寻找最小的k个数
题目:输入n个整数,输出其中最小的k个。
例如输入1,2,3,4,5,6,7和8这8个数字,则最小的4个数字为1,2,3和4。
思路一:通过排序输出想要的最小的k个数据
要求一个序列中最小的k个数,按照惯有的思维方式,则是先对这个序列从小到大排序,然后输出前面的最小的k个数。当然排序的话,首先想到的是快排:快速排序平均所费时间为n*logn,然后再遍历序列中前k个元素输出即可。因此,总的时间复杂度:O(n * log n)+O(k)=O(n * log n)。
缺陷:如果我们只找1个数,也会造成O(n * log n)时间复杂度。但如果直接遍历整个数组的话,只需要O(n),显然这种方法不太好。
思路二:用堆来实现——思路三的优化版本比这个更好一点
我们知道堆有跟快速排序同样的时间复杂度,但系数方面比快排要大,没有快排好。但是,对于这个题目中,我们只是需要找出最小的k个数据,通过最小堆排序算法的话,我们可以只实现k个数据的排序,就能得到想要的结果。但快排需要彻底完成排序才行。
在讲解用最小堆之前,需要先对堆排序的几个算法有深刻的印象。
我之前写的文章选择排序,里面有讲解堆排序
以最大堆为例:
MaxHeapify():时间复杂度O(lgn),是维护最大堆性质的关键。
BuildMaxHeap():具有线性时间复杂度O(n),是从无序的输入数据数组中构造一个最大堆
HeapSort():时间复杂度O(nlgn),对一个数组进行原址排序。
MaxHeapInsert()--HeapExtractMax()--HeapIncreaseKey()--HeapMaximum:时间复杂度O(lgn),利用堆实现优先队列!
注意:其中BuildMaxHeap()是循环调用n次MaxHeapify(),但通过严格证明时间复杂度是线性的,不是O(nlogn)。回到这个题目中:可以用最小堆初始化数组,然后取这个优先队列前k个值。复杂度O(n)+k*O(log n)。比思路一性能好一些。
思路三:只找最小的k个数据
咱们再进一步想想,题目没有要求最小的k个数有序,也没要求最后n-k个数有序。既然如此,就没有必要对所有元素进行排序。这时,咱们想到了用选择或交换排序,只需维护k个数据的数组,发现有比期中小的数据,就替换。即:
1、遍历n个数,把最先遍历到的k个数存入到大小为k的数组中,假设它们即是最小的k个数;
2、对这k个数,利用选择或交换排序找到这k个元素中的最大值kmax(找最大值需要遍历这k个数,时间复杂度为O(k)
);
3、继续遍历剩余n-k个数。假设每一次遍历到的新的元素的值为x,把x与kmax比较:如果x < kmax
,用x替换kmax,并回到第二步重新找出k个元素的数组中最大元素kmax‘;如果x >= kmax
,则继续遍历不更新数组。
每次遍历,更新或不更新数组的所用的时间为O(k)
或O(0)
。故整趟下来,时间复杂度为n*O(k)=O(n*k)
。
优化:
上种方案里,在k个数据中查找最大值时,需要遍历整个数组,这一块时间可以通过维护一个最大堆来优化,那么找到最大值时,只需树深度logk时间就能完成。
原理跟解法二的方法相似:
- 1、用容量为k的最大堆存储最先遍历到的k个数,同样假设它们即是最小的k个数;
- 2、堆中元素是有序的,令k1<k2<...<kmax(kmax设为最大堆中的最大元素)
- 3、遍历剩余n-k个数。假设每一次遍历到的新的元素的值为x,把x与堆顶元素kmax比较:如果
x < kmax
,用x替换kmax,然后更新堆(用时logk);否则不更新堆。
这样下来,总的时间复杂度:O(k+(n-k)*logk)=O(n*logk)
。此方法得益于堆中进行查找和更新的时间复杂度均为:O(logk)
(若使用解法二:在数组中找出最大元素,时间复杂度:O(k)
) 。
思路四:快速选择算法
在《数据结构与算法分析--c语言描述》一书,第7章第7.7.6节中,阐述了一种在平均情况下,时间复杂度为O(N)
的快速选择算法。如下述文字:
- 选取S中一个元素作为枢纽元v,将集合S-{v}分割成S1和S2,就像快速排序那样
- 如果k <= |S1|,那么第k个最小元素必然在S1中。在这种情况下,返回QuickSelect(S1, k)。
- 如果k = 1 + |S1|,那么枢纽元素就是第k个最小元素,即找到,直接返回它。
- 否则,这第k个最小元素就在S2中,即S2中的第(k - |S1| - 1)个最小元素,我们递归调用并返回QuickSelect(S2, k - |S1| - 1)。
此算法的平均运行时间为O(n)。这是一种新奇的算法,直接选出结果中第k个最小的数据。
代码如下:
//QuickSelect 将第k小的元素放在 a[k-1]
void QuickSelect( int a[], int k, int left, int right )
{
int i, j;
int pivot;
if( left + cutoff <= right )
{
pivot = median3( a, left, right );
//取三数中值作为枢纽元,可以很大程度上避免最坏情况
i = left; j = right - 1;
for( ; ; )
{
while( a[ ++i ] < pivot ){ }
while( a[ --j ] > pivot ){ }
if( i < j )
swap( &a[ i ], &a[ j ] );
else
break;
}
//重置枢纽元
swap( &a[ i ], &a[ right - 1 ] );
if( k <= i )
QuickSelect( a, k, left, i - 1 );
else if( k > i + 1 )
QuickSelect( a, k, i + 1, right );
}
else
InsertSort( a + left, right - left + 1 );
}
注:1:更进一步,《算法导论》第9章第9.3节介绍了一个最坏情况下亦为O(n)时间的SELECT算法,有兴趣的读者可以参看。
2:要看一下快速选择SELECT算法的深入分析与实现,里面详细介绍了快速算法的优化,以及快速选择算法。
拓展:
1、谷歌面试题:输入是两个整数数组,他们任意两个数的和又可以组成一个数组,求这个和中前k个数怎么做?
分析:
“假设两个整数数组为A和B,各有N个元素,任意两个数的和组成的数组C有N^2个元素。
那么可以把这些和看成N个有序数列:
A[1]+B[1] <= A[1]+B[2] <= A[1]+B[3] <=…
A[2]+B[1] <= A[2]+B[2] <= A[2]+B[3] <=…
…
A[N]+B[1] <= A[N]+B[2] <= A[N]+B[3] <=…
问题转变成,在这N^2个有序数列里,找到前k小的元素”
2、有两个序列A和B,A=(a1,a2,...,ak),B=(b1,b2,...,bk),A和B都按升序排列。对于1<=i,j<=k,求k个最小的(ai+bj)。要求算法尽量高效。
3、给定一个数列a1,a2,a3,...,an和m个三元组表示的查询,对于每个查询(i,j,k),输出ai,ai+1,...,aj的升序排列中第k个数。