1. 排序算法的介绍
排序也称排序算法(Sort Algorithm),排序是将一组数据,依指定的顺序进行排列的过程
2.排序的分类
- 内部排序: 指将需要处理的所有数据都加载到内部存储器(内存)中进行排序。
- 外部排序法: 数据量过大,无法全部加载到内存中,需要借助外部存储(文件等)进行排序。
3.算法的时间复杂度
3.1度量一个程序(算法)执行时间的两种方法:
- 事后统计的方法
这种方法可行, 但是有两个问题
- 一是要想对设计的算法的运行性能进行评测,需要实际运行该程序
- 二是所得时间的统计量依赖于计算机的硬件、软件等环境因素, 这种方式,要在同一台计算机的相同状态下运行,才能比较那个算法速度更快
- 事前估算的方法
通过分析某个算法的时间复杂度来判断哪个算法更优
3.2时间频度
时间频度:一个算法花费的时间与算法中语句的执行次数成正比例,哪个算法中语句执行次数多,它花费时间
就多。一个算法中的语句执行次数称为语句频度或时间频度。记为 T(n)
3.3时间复杂度
- 一般情况下,算法中的基本操作语句的重复执行次数是问题规模 n 的某个函数,用 T(n)表示,若有某个辅 助函数 f(n),使得当 n 趋近于无穷大时,T(n) / f(n) 的极限值为不等于零的常数,则称 f(n)是 T(n)的同数量级函数。 记作 T(n)=O( f(n) ),称O( f(n) ) 为算法的渐进时间复杂度,简称时间复杂度。
- T(n) 不同,但时间复杂度可能相同。 如:T(n)=n2+7n+6 与 T(n)=3n2+2n+2 它们的 T(n) 不同,但时间复杂 度相同,都为 O(n2)。
- 计算时间复杂度的方法:
➢ 用常数 1 代替运行时间中的所有加法常数 T(n)=n2+7n+6 => T(n)=n2+7n+1
➢ 修改后的运行次数函数中,只保留最高阶项 T(n)=n2+7n+1 => T(n) = n2
➢ 去除最高阶项的系数 T(n) = n2 => T(n) = n2 => O(n2)
3.4常见的时间复杂度
3.5 平均时间复杂度和最坏时间复杂度
排序算法 | 平均时间复杂度 | 最好情况 | 最坏情况 | 空间复杂度 | 排序方式 | 稳定性 |
---|---|---|---|---|---|---|
冒泡排序 | O(n^2) | O(n) | O(n^2) | O(1) | In-space | 稳定 |
选择排序 | O(n^2) | O(n^2) | O(n^2) | O(1) | In-space | 不稳定 |
插入排序 | O(n^2) | O(n) | O(n^2) | O(1) | In-space | 稳定 |
希尔排序 | O(n log n) | O(n logn) | O(n logn) | O(1) | In-space | 不稳定 |
归并排序 | O(n log n) | O(n log n) | O(n log n) | O(n) | Out-space | 稳定 |
快速排序 | O(n log n) | O(n log n) | O(n^2) | O(log n) | In-space | 不稳定 |
堆排序 | O(n log n) | O(n log n) | O(n log n) | O(1) | In-space | 不稳定 |
计数排序 | O(n + k) | O(n + k) | O(n + k) | O(k) | Out-space | 稳定 |
桶排序 | O(n + k) | O(n + k) | O(n^2) | O(n + k) | Out-space | 稳定 |
基数排序 | O(n * k) | O(n * k) | O(n * k) | O(n + k) | Out-space | 稳定 |
3.6相关术语介绍
➢ 稳定:如果a原本在b前面,而a=b,排序之后a仍然在b的前面;
➢ 不稳定:如果a原本在b的前面,而a=b,排序之后a可能会出现在b的后面;
➢ 内排序:所有排序操作都在内存中完成;
➢ 外排序:由于数据太大,因此把数据放在磁盘中,而排序通过磁盘和内存的数据传输才能进行;
➢ 时间复杂度:一个算法执行所耗费的时间。
➢ 空间复杂度:运行完一个程序所需内存的大小。
➢ n: 数据规模
➢ k: “桶”的个数
➢ In-place: 不占用额外内存
➢ Out-place: 占用额外内存
4.算法的空间复杂度简介
- 类似于时间复杂度的讨论,一个算法的空间复杂度(SpaceComplexity)定义为该算法所耗费的存储空间,它也是 问题规模 n 的函数。
- 空间复杂度(SpaceComplexity)是对一个算法在运行过程中临时占用存储空间大小的量度。有的算法需要占用的 临时工作单元数与解决问题的规模 n 有关,它随着 n 的增大而增大,当 n 较大时,将占用较多的存储单元,例 如快速排序和归并排序算法, 基数排序就属于这种情况
- 在做算法分析时,主要讨论的是时间复杂度。从用户使用体验上看,更看重的程序执行的速度。一些缓存产品 (redis, memcache)和算法(基数排序)本质就是用空间换时间.
5.冒泡排序
冒泡排序(Bubble Sorting)的思想
通过对待排序序列从前向后(从下标较小的元素开始),依次比较 相邻元素的值,若发现逆序则交换,使值较大的元素逐渐从前移向后部,就象水底下的气泡一样逐渐向上冒
public static void baseSort(int[] arr) {
// 数组最后值 不需要参与排序,因此结束位置为 arr.length - 1、
for (int i = 0; i < arr.length - 1; i++) {
for (int j = 0; j < arr.length - 1 - i; j++) {
// 当前大于后一个,则交换
if (arr[j] > arr[j + 1]) {
ArrayUtils.swap(arr, j, j + 1);
}
}
System.out.println(Arrays.toString(arr));
}
}
改进版本一:如果一次排序中发现没有进行交换,说明数组为有序的,此时 停止交换
public static void sort1(int[] arr) {
// 是否有进行过交换,默认为false,如果没有进行过交换,则表示已经有序了
boolean hasSwap;
int temp;
// 数组最后值 不需要参与排序,因此结束位置为 arr.length - 1
for (int i = 0; i < arr.length - 1; i++) {
hasSwap = false;
for (int j = 0; j < arr.length - 1 - i; j++) {
// // 当前大于后一个,则交换
if (arr[j] > arr[j + 1]) {
// ArrayUtils.swap(arr, j, j + 1);
temp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = temp;
hasSwap = true;
}
}
if (!hasSwap) {
break;
}
}
}
改进版本二:如果 当前循环 最后 交换位置为 index ,则下次只需要 遍历至 index - 1
public static void sort(int[] arr) {
// 分别定义最后交换的位置和当前交换的位置
int lastSwapIndex, currSwapIndex = arr.length - 1;
int temp;
while (currSwapIndex > 0) {
lastSwapIndex = currSwapIndex;
currSwapIndex = 0;
for (int i = 0; i < lastSwapIndex; i++) {
if (arr[i] > arr[i + 1]) {
// ArrayUtils.swap(arr, i, i + 1);
temp = arr[i];
arr[i] = arr[i + 1];
arr[i + 1] = temp;
currSwapIndex = i;
}
}
}
}
具体参考 BubbleSort
6.选择排序
选择排序(select sorting)也是一种简单的排序方法。思想为
第一次从 arr[0]~arr[n-1]中选取最小值,与 arr[0]交换
第二次从 arr[1]~arr[n-1]中选取最小值,与 arr[1]交换
第三次从 arr[2]~arr[n-1]中选取最小值,与 arr[2] 交换,…,
第 i 次从 arr[i-1]~arr[n-1]中选取最小值,与 arr[i-1]交换,…,
第 n-1 次从 arr[n-2]~arr[n-1]中选取最小值, 与 arr[n-2]交换,总共通过 n-1 次,得到一个按排序码从小到大排列的有序序列
和冒泡排序(由小至大排序)的区别为:
- 选择排序每次选出最大值依次放入数组末尾;选择排序每次选出最小值依次放入数组前列
- 选择排序每次遍历比较时,只是记录下来最小值位置和值,不进行交换,最后比较出来最小值后再进行交换;而冒泡排序则每次遍历比较时都进行交换
public static void sort(int[] arr) {
int minIndex;
int minValue;
for (int i = 0; i < arr.length - 1; i++) {
// 默认最小值和最小值位置
minIndex = i;
minValue = arr[i];
// 从i位置的后一位和最小值进行比较
for (int j = i + 1; j < arr.length; j++) {
if (arr[j] < minValue) {
minValue = arr[j];
minIndex = j;
}
}
// 如果发现 最小值 不为 初始化的位置才进行交换
if (minIndex != i) {
arr[minIndex] = arr[i];
arr[i] = minValue;
}
}
}
具体参考 SelectSort
7.插入排序
插入排序(Insertion Sorting)的基本思想是
把 n 个待排序的元素看成为一个有序表和一个无序表,开始时有序表中只包含一个元素,无序表中包含有 n-1 个元素,排序过程中每次从无序表中取出第一个元素,把它的排 序码依次与有序表元素的排序码进行比较,将它插入到有序表中的适当位置,使之成为新的有序表
冒泡排序在将待插入数值加入有序数组时,不会进行交换,而是将比当前大的值向后进行移动
/**
* 插入排序
*
* @param arr
*/
public static void sort(int[] arr) {
//待插入index 和 value
int insertIndex;
int insertValue;
for (int i = 1; i < arr.length; i++) {
// 待插入数组和值
insertIndex = i;
insertValue = arr[i];
for (int j = i; j > 0; j--) {
// 如果发现比较值值比前一个值小,则将前一个值向后移
if (insertValue < arr[j - 1]) {
arr[j] = arr[j - 1];
// 没有立即将 比较值 和 前一位交换,而是记录下位置
insertIndex = j - 1;
} else {
break;
}
}
// 如果待插入位置和i不相等,则进行赋值
if (insertIndex != i) {
arr[insertIndex] = insertValue;
}
}
}
/**
* 另外一种写法 和 sort 方法理解一致
*
* @param arr 待排序数组
*/
public static void sort1(int[] arr) {
for (int i = 1; i < arr.length; i++) {
// insertIndex 为 待插入位置的前一位
int insertIndex = i - 1;
// inserValue 为 待插入数据
int insertValue = arr[i];
while (insertIndex >= 0 && insertValue < arr[insertIndex]) {
// 后移一位 insertIndex
arr[insertIndex + 1] = arr[insertIndex];
insertIndex--;
}
if (insertIndex + 1 != i) {
arr[insertIndex + 1] = insertValue;
}
}
}
/**
* 排序排序
*
* @param arr
*/
public static void sort2(int[] arr) {
// 存放临时数值
int tmp;
for (int i = 0; i < arr.length - 1; i++) {
for (int j = i; j >= 0; j--) {
// 将待比较数值存如tmp,待比较数值为 arr[j+1]
tmp = arr[j + 1];
// 从j+1一次和前面进行比较,如果发现当前位比前一位小,
// 则将前一位的数值后移,然后将临时值放入前一位
if (arr[j + 1] < arr[j]) {
arr[j + 1] = arr[j];
// 立即将 比较值 和 前一位互换
arr[j] = tmp;
} else {
// 发现 arr[j + 1] >= arr[j] 后则进行说明数组已经有序,终止本次内循环
break;
}
}
}
}
8.希尔排序
8.1简单插入排序存在的问题
简单的插入排序可能存在的问题.
数组 arr = {2,3,4,5,6,1} 这时需要插入的数 1(最小), 这样的过程是: {2,3,4,5,6,6} -> {2,3,4,5,5,6} -> {2,3,4,4,5,6} -> {2,3,3,4,5,6} -> {2,2,3,4,5,6} -> {1,2,3,4,5,6}
结论: 当需要插入的数是较小的数时,后移的次数明显增多,对效率有影响
8.2希尔排序简介
希尔排序是希尔(Donald Shell)于 1959 年提出的一种排序算法。希尔排序也是一种插入排序,它是简单插入排序经过改进之后的一个更高效的版本,也称为缩小增量排序
8.3希尔排序思想
希尔排序是把记录按下标的一定增量分组,对每组使用直接插入排序算法排序;随着增量逐渐减少,每组包含
的关键词越来越多,当增量减至 1 时,整个文件恰被分成一组,算法便终止
8.4实战
/**
* 希尔排序
*
* @param arr
*/
public static void sort(int[] arr) {
// 待插入index和value
int insertIndex;
int insertValue;
// {8, 5, 7, 4, 3, 2, 6, 1} gap为步长 4 -> 2 -> 1
for (int gap = arr.length / 2; gap >= 1; gap = gap / 2) {
// 待排序的起始位置
for (int i = gap; i < arr.length; i++) {
insertIndex = i;
insertValue = arr[i];
// 可以理解为和插入排序一样,插入排序的步长为1,而此时变成了gap
for (int j = i; j - gap >= 0; j -= gap) {
if (arr[j - gap] > insertValue) {
insertIndex = j - gap;
arr[j] = arr[j - gap];
} else {
break;
}
}
if (insertIndex != i) {
arr[insertIndex] = insertValue;
}
}
}
}
/**
* 希尔排序,对应插入排序中的 sort2方法改写
*
* @param arr
*/
public static void sort2(int[] arr) {
int tmp;
// 步长
for (int gap = arr.length / 2; gap >= 1; gap = gap / 2) {
// 循环遍历
for (int i = 0; i < arr.length; i++) {
//此时步长已经为gap
for (int j = i; j >= 0 && j + gap < arr.length; j = j - gap) {
tmp = arr[j + gap];
if (arr[j + gap] < arr[j]) {
arr[j + gap] = arr[j];
arr[j] = tmp;
} else {
break;
}
}
}
}
}
9.快速排序
快速排序(Quicksort)是对冒泡排序的一种改进。基本思想是:通过一趟排序将要排序的数据分割成独立的两 部分,其中一部分的所有数据都比另外一部分的所有数据都要小,然后再按此方法对这两部分数据分别进行快速排 序,整个排序过程可以递归进行,以此达到整个数据变成有序序列
public static void sort1(int[] arr, int left, int right) {
int low = left; //左下标
int high = right; //右下标
//pivot 中轴值
int pivot = arr[(left + right) / 2];
//临时变量,作为交换时使用
int temp = 0;
// while 循环的目的是让比 pivot 值小放到左边
// 比 pivot 值大放到右边
while (low < high) {
//在 pivot 的左边一直找,找到大于等于 pivot 值,才退出
while (arr[low] < pivot) {
low += 1;
}
//在 pivot 的右边一直找,找到小于等于 pivot 值,才退出
while (arr[high] > pivot) {
high -= 1;
}
//如果 l >= r 说明 pivot 的左右两的值,已经按照左边全部是 小于等于 pivot 值,右边全部是大于等于 pivot 值,cos
if (low >= high) {
break;
}
//交换
temp = arr[low];
arr[low] = arr[high];
arr[high] = temp;
// //如果交换完后,发现 arr[high] == pivot 值 相等 low++, 后移
// //当数组中有几个值相等时。如果此处不加该判断条件,则永远退出不了循环
if (arr[high] == pivot) {
low++;
}
//如果交换完后,发现 arr[low] == pivot 值 相等 high--, 前移
//当数组中有几个值相等时。如果此处不加该判断条件,则永远退出不了循环
if (arr[low] == pivot) {
high--;
}
System.out.println(Arrays.toString(arr));
// System.out.println("left:" + l + " right:" + r);
}
// 如果 low == high, 必须 low++, high--, 否则为出现栈溢出
if (low == high) {
low += 1;
high -= 1;
}
//向左递归
if (left < high) {
sort1(arr, left, high);
}
//向右递归
if (right > low) {
sort1(arr, low, right);
}
}
10.归并排序
归并排序(merge-sort)是利用归并的思想实现的排序方法,该算法采用经典的分治(divide-and-conquer) 策略(分治法将问题分(divide)成一些小的问题然后递归求解,而治(conquer)的阶段则将分的阶段得到的各答案"修 补"在一起,即分而治之)
/**
* 归并排序
*
* @param arr
*/
public static void sort(int[] arr) {
int[] temp = new int[arr.length];
splitAndMerge(arr, 0, arr.length - 1, temp);
}
/**
* 拆开阶段
*
* @param arr
* @param left
* @param right
* @param temp
*/
public static void splitAndMerge(int[] arr, int left, int right, int[] temp) {
if (left < right) {
int mid = (left + right) / 2;
splitAndMerge(arr, left, mid, temp);
splitAndMerge(arr, mid + 1, right, temp);
merge(arr,left,mid,right,temp);
}
}
/**
* 合并方法
*
* @param arr 待排序的原始数组
* @param left 左边有序序列的索引
* @param mid 中间索引
* @param right 右边索引
* @param temp 临时数组,中转使用
*/
private static void merge(int[] arr, int left, int mid, int right, int[] temp) {
int i = left;
int j = mid + 1;
int t = 0;
//1. 先将左右两边(有序) 数据按照规则进行填充 到temp 数组
while (i <= mid && j <= right) {
if (arr[i] <= arr[j]) {
temp[t] = arr[i];
i++;
} else {
temp[t] = arr[j];
j++;
}
t++;
}
//2. 将剩余数据的一边数据依次全部填充到 temp
while (i <= mid) {
temp[t] = arr[i];
i++;
t++;
}
while (j <= right) {
temp[t] = arr[j];
j++;
t++;
}
// 将 临时数组拷贝至arr
// 注意,并不是每次都拷贝所有
t = 0;
int tempLeft = left;
while (tempLeft <= right) {
arr[tempLeft] = temp[t];
t++;
tempLeft++;
}
}
11.基数排序
11.1基数排序(桶排序)介绍:
- 基数排序(radixsort)属于“分配式排序”(distributionsort),又称“桶子法”(bucketsort)或binsort,顾 名思义,它是通过键值的各个位的值,将要排序的元素分配至某些“桶”中,达到排序的作用
- 基数排序法是属于稳定性的排序,基数排序法的是效率高的稳定性排序法
- 基数排序(RadixSort)是桶排序的扩展
- 基数排序是1887年赫尔曼·何乐礼发明的。它是这样实现的:将整数按位数切割成不同的数字,然后按每个
位数分别比较
11.2基数排序基本思想
将所有待比较数值统一为同样的数位长度,数位较短的数前面补零。然后,从最低位开始,依次进行一次排序。
这样从最低位排序一直到最高位排序完成以后, 数列就变成一个有序序列
public static void sort(int[] arr) {
// 计算最大值
int maxValue = arr[0];
for (int i = 1; i < arr.length; i++) {
if (arr[i] > maxValue) {
maxValue = arr[i];
}
}
// 最大长度
int maxLength = String.valueOf(maxValue).length();
// 排序使用的数组
int[][] buckets = new int[10][maxLength];
int[] bucketCnt = new int[10];
for (int i = 0, n = 1; i < maxLength; i++, n *= 10) {
// 将数据放入桶中
for (int j = 0; j < arr.length; j++) {
// 相应位数的数值
int digitOfEle = arr[j] / n % 10;
// 将数据放入桶中
buckets[digitOfEle][bucketCnt[digitOfEle]] = arr[j];
// 计数+1
bucketCnt[digitOfEle]++;
}
// 从桶中 拿出数据依次放入 原数组中
int index = 0;
for (int j = 0; j < 10; j++) {
for (int k = 0; k < bucketCnt[j]; k++) {
arr[index] = buckets[j][k];
index++;
}
// 清除桶计数
bucketCnt[j] = 0;
}
}
}
12.排序效率测试
笔者计算机配置:
- 处理器 2.8 GHz 四核Intel Core i7
- 内存16 GB 2133 MHz LPDDR3
个人测试结果 测试代码
排序算法 | 时长ms(8W) | 时长ms(80W) | 时长ms(80W) | 时长ms(8000W) |
---|---|---|---|---|
冒泡排序 | 10793、10774、10932 | 跑不出来 | 跑不出来 | 跑不出来 |
选择排序 | 2845、2802、3019 | 202862、228898、235079 | 跑不出来 | 跑不出来 |
插入排序 | 585、572、596 | 80229、81328、72114 | 跑不出来 | 跑不出来 |
希尔排序 | 24、20、28 | 204、191、194 | 2804、2725、2801 | 36933、37663、37541 |
归并排序 | 19、19、24 | 157、144、124 | 1410、1659、1389 | 14264、15039、13922 |
快速排序 | 29、19、22 | 117、108、104 | 1452、1155、1042 | 11544、10759、11021 |
堆排序 | 16、15、16 | 200、248、193 | 2895、3354、2867 | 39115、35102、34833 |
基数排序 | 14、12、12 | 84、101、111 | 580、623、645 | OOM 6500W(3823、3896、4009) |
结论:
可以看到,计数排序是最快的,但是其只适用于数值排序,且需要额外的内存空间,因此用的较少。
相对而言,快速排序和归并排序较快,平时使用较多。归并排序尤其是在多个数组已经排好序的情况下进行merge(此时不需要进行sort)
13实际使用案例介绍
很多框架中大量使用了快速排序和归并排序(多个待合并对象已经排好序)
- oracle中 sort merge join 使用了归并排序特性(只需merge) 。您可以 查看 1.1.3sort merge join
- hive中smbj使用了归并排序特性(只需merge) 您可以查看 2.1.4sort merge bucket join(SMBJ)
- MapReduce中shuffle过程map侧在环形缓冲区溢写前使用了快速排序,溢写后对多个有序文件进行合并时使用了归并排序(只需merge);reduce侧,对copy过来的多个有序文件进行合并时使用了归并排序(只需merge) 。3.2.4源码解析流程