解法一
最简单且最容易想到的算法是对数组进行排序(快速排序),然后取最大或最小的K个元素。总的时间复杂度为O(N*logN)+O(K)=O(N*logN)。该算法存在以下问题:
- 快速排序的平均复杂度为O(N*logN),但最坏时间复杂度为O(n2),不能始终保证较好的复杂度
- 只需要前k大或k小的数,,实际对其余不需要的数也进行了排序,浪费了大量排序时间
总结:通常不会采取该方案。
解法二
虽然我们不会采用快速排序的算法来实现TOP-K问题,但我们可以利用快速排序的思想,在数组中随机找一个元素key,将数组分成两部分Sa和Sb,其中Sa的元素>=key,Sb的元素<key,然后分析两种情况:
- 若Sa中元素的个数大于或等于k,则在Sa中查找最大的k个数
- 若Sa中元素的个数小于k,其个数为len,则在Sb中查找k-len个数字
如此递归下去,不断把问题分解为更小的问题,直到求出结果。
该算法的平均时间复杂度为O(N * logk)。以求K大的数为例,算法实现如下:
public static int findTopK(int[] array, int left, int right, int k) {
int index = -1;
if (left < right) {
int pos = partition(array, left, right);
int len = pos - left + 1;
if (len == k) {
index = pos;
} else if (len < k) {//Sa中元素个数小于K,到Sb中查找k-len个数字
index = findTopK(array, pos + 1, right, k - len);
} else {//Sa中元素的个数大于或等于k
index = findTopK(array, left, pos - 1, k);
}
}
return index;
}
/**
* 按基准点划分数组,左边的元素大于基准点,右边的元素小于基准点
*
* @param array
* @param left
* @param right
* @return
*/
public static int partition(int[] array, int left, int right) {
int x = array[left];//基准点,随机选择
do {
while (array[right] < x && left < right)//从后向前扫描,找到第一个比基准点大的元素
right--;
if (left < right) {
array[left] = array[right];//大元素前移
left++;
}
while (array[left] >= x && left < right) //从前向后扫描,找到第一个比基准点小的元素
left++;
if (left < right) {
array[right] = array[left];//小元素后移
right--;
}
} while (left < right);
array[left] = x;
return left;
}
单元测试:
@Test
public void testFindKMax_1() {
int k = 4;
int array[] = {20, 100, 4, 2, 87, 9, 8, 5, 46, 26};
TopK.findTopK(array, 0, array.length - 1, k);
logger.info("array top k:{}", Arrays.stream(array).mapToObj(value -> String.valueOf(value))
.limit(k).collect(Collectors.joining(",")));
}
解法三
寻找N个数中的第K大的数,可以将问题转化寻找N个数中第K大的问题。对于一个给定的数p, 可以在O(N)的时间复杂度内找出所有不小于P的数。
根据分析,可以使用二分查找的算法思想来寻找N个数中第K大的数。假设N个数中最大的数为Vmax,最小的数为Vmin, 那么N个数中第K大的数一定在区间[Vmin,Vmax]之间。然后在这个区间使用二分查找算法。算法实现如下:
public static List<Integer> findTopK(int[] array, int k) {
int max = array[0];
int min = array[0];
for (int i = 0; i < array.length; i++) {
if (max < array[i]) {
max = array[i];
}
if (min > array[i]) {
min = array[i];
}
}
List<Integer> topKList = new ArrayList<>();
int key = findK(array, max, min, k);
for (int i = 0; i < array.length; i++) {
if (array[i] >= key) {
topKList.add(array[i]);
}
}
return topKList;
}
/**
* 寻找第K大的元素
*
* @param array
* @param max
* @param min
* @param k
* @return
*/
private static int findK(int[] array, int max, int min, int k) {
while (max - min > 1) {
int mid = (max + min) / 2;
int num = findKNum(array, mid);
if (num >= k) {
min = mid;
} else {
max = mid;
}
}
return min;
}
/**
* 统计不小于key的元素个数
*
* @param array
* @param key
* @return
*/
private static int findKNum(int[] array, int key) {
int sum = 0;
for (int i = 0; i < array.length; i++) {
if (array[i] >= key)
sum++;
}
return sum;
}
总结:该算法实际应用效果不佳,尤其是不同的数据类型需要确定max - min > delta,因此时间复杂度跟数据分布有关。 整个算法的时间复杂度为O(N * log(Vmax-Vmin)/delta),在数据分布平均的情况下,时间复杂度为O(N * logN)。
解法四
上面几种解法都会对数据访问多次,那么就有一个问题,当数组中元素个数非常大时,如:100亿,这时候数据不能全部加载到内存,就要求我们尽可能少的遍历所有数据。针对这种情况,下面我们介绍一种针对海量数据的解决方案。
在学习堆排序的过程中,我们知道了堆这种数据结构。为了查找Top k大的数,我们可以使用大根堆来存储最大的K个元素。大根堆的堆顶元素就是最大K个数中最小的一个。每次考虑下一个数x时,如果x比堆顶元素小,则不需要改变原来的堆。如果想x比堆顶元素大,那么用x替换堆顶元素, 同时,在替换之后,x可能破坏最小堆的结构,需要调整堆来维持堆的性质。算法实现如下:
public static int[] findTopK(int[] array, int k) {
int heapArray[] = new int[k];
for (int i = 0; i < k; i++) {
heapArray[i] = array[i];
}
buildMaxHeap(heapArray);
for (int i = k; i < array.length; i++) {
if (array[i] < heapArray[0]) {
heapArray[0] = array[i];//更新堆顶
adjustMaxHeap(heapArray, 0, heapArray.length);
}
}
return heapArray;
}
/**
* 构建大根堆
*
* @param array
*/
public static void buildMaxHeap(int[] array) {
for (int i = array.length / 2 - 1; i >= 0; i--) {
adjustMaxHeap(array, i, array.length);
}
}
/**
* 调整堆结构
*
* @param array
* @param root 根节点
* @param length
*/
public static void adjustMaxHeap(int[] array, int root, int length) {
int left = root * 2 + 1; //左节点下标,数组下标从0开始,所以加1
int right = left + 1; //右节点下标
int largest = root;// 存放三个节点中最大节点的下标
if (left < length && array[left] > array[root]) { //左节点大于根节点,更新最大节点的下标
largest = left;
}
if (right < length && array[right] > array[largest]) {//右节点大于根节点,最大节点的下标
largest = right;
}
if (root != largest) {
swap(array, largest, root);
adjustMaxHeap(array, largest, length);
}
}
/**
* 交换
*
* @param arr
* @param i
* @param j
*/
public static void swap(int[] arr, int i, int j) {
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
总结:该算法只需要扫描所有的数据一次,且不会占用太多内存空间(只需要容纳K个元素的空间),尤其适合处理海量数据的场景。算法的时间复杂度为O(N * logk),这实际上相当于执行了部分堆排序。
扩展:当K仍然很大,导致内存无法容纳K个元素时,我们可以考虑先找最大的K1个元素,然后再找看K1+1到2*K1个元素,如此类推。(其中容量为K1的堆可以完全载入内存)
解法五
TOP-K问题是一个经典的问题,这个问题是存在线性算法的,只不过算法的使用范围有一定的限制。如果所有N个数都是正整数,且他们的取值范围并不大,可以考虑申请空间,记录每个整数出现的次数,然后再从大到小取最大的K个。实际就是利用计数排序的思想。 假设所有整数都在(0,maxN)区间,利用一个数组count[maxN]来记录每个整数出现的次数。count[i]表示整数i在N个数中出现的次数。只需要扫描一遍就可以得到count数组,然后寻找第K大的元素。算法实现如下:
public static List<Integer> findTopK(int[] array, int k) {
int max = array[0];
for (int i = 0; i < array.length; i++) {
if (max < array[i]) {
max = array[i];
}
}
int count[] = new int[max + 1];
for (int i = 0; i < array.length; i++) {
count[array[i]] += 1;
}
List<Integer> topKList = new ArrayList<>();
for (int sumCount = 0, j = count.length - 1; j >= 0; j--) {
int c = count[j];
sumCount += c;
if (c > 0) {
for (int i = 0; i < c; i++) {
topKList.add(j);
}
}
if (sumCount >= k) {
break;
}
}
return topKList;
}
这是一个典型的以空间换取时间的做法。当数组中取值范围比较大时,是及其浪费空间的。如[3,1...9999],为了求出最大的K个元素,需要额外申请一个长度为10000的数组。
极端情况下,如果 N 个整数各不相同,我们甚至只需要一个 bit 来存储这个整数是否存在,这样可节省很大的内存空间。
本文部分内容参考书籍《编程之美》。