数据结构与算法三：排序

一. 排序算法

1.1 排序算法的是介绍

排序也称排序算法(Sort Algorithm)，排序是将一组数据，依指定的顺序进行排列的过程。

1.2 排序算法的分类

1) 内部排序:

指将需要处理的所有数据都加载到内部存储器中进行排序。

2) 外部排序法：

数据量过大，无法全部加载到内存中，需要借助外部存储进行排序。

3) 常见的排序算法分类(见右图)

1.3 算法的时间复杂度

1.3.1 度量一个程序(算法)执行时间的两种方法

1)事后统计的方法
这种方法可行, 但是有两个问题：一是要想对设计的算法的运行性能进行评测，需要实际运行该程序；二是所得时间的统计量依赖于计算机的硬件、软件等环境因素, 这种方式，要在同一台计算机的相同状态下运行，才能比较那个算法速度更快。

2)事前估算的方法
通过分析某个算法的时间复杂度来判断哪个算法更优.

1.3.2 时间频度

1）基本介绍

时间频度：一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。[举例说明]

2）例子：

计算1-100所有数字之和, 我们设计两种算法：

3）举例说明-忽略常数项

4）举例说明-忽略低次项

5）举例说明-忽略系数

1.3.3 时间复杂度

1)一般情况下，算法中的基本操作语句的重复执行次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n)，使得当n趋近于无穷大时，T(n) / f(n) 的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作 T(n)=Ｏ( f(n) )，称Ｏ( f(n) )  为算法的渐进时间复杂度，简称时间复杂度。

2)T(n) 不同，但时间复杂度可能相同。 如：T(n)=n²+7n+6 与 T(n)=3n²+2n+2 它们的T(n) 不同，但时间复杂度相同，都为O(n²)。3)计算时间复杂度的方法：

•用常数1代替运行时间中的所有加法常数  T(n)=n²+7n+6  => T(n)=n²+7n+1

•修改后的运行次数函数中，只保留最高阶项  T(n)=n²+7n+1 => T(n) = n²

•去除最高阶项的系数 T(n) = n² => T(n) = n² => O(n²)

1.3.4 常见的时间复杂度

1.3.5 常见的时间复杂度

1)常数阶O(1)

   无论代码执行了多少行，只要是没有循环等复杂结构，那这个代码的时间复杂度就都是O(1)

上述代码在执行的时候，它消耗的时候并不随着某个变量的增长而增长，那么无论这类代码有多长，即使有几万几十万行，都可以用O(1)来表示它的时间复杂度。

2)对数阶O(log2n)

说明：在while循环里面，每次都将 i 乘以 2，乘完之后，i 距离 n 就越来越近了。假设循环x次之后，i 就大于 n 了，此时这个循环就退出了，也就是说 2 的 x 次方等于 n，那么 x = log2n也就是说当循环 log2n 次以后，这个代码就结束了。因此这个代码的时间复杂度为：O(log2n)  。 O(log2n) 的这个2 时间上是根据代码变化的，i = i * 3 ，则是 O(log3n) .

3)线性阶O(n)

说明：这段代码，for循环里面的代码会执行n遍，因此它消耗的时间是随着n的变化而变化的，因此这类代码都可以用O(n)来表示它的时间复杂度

4)线性对数阶O(nlogN)

说明：线性对数阶O(nlogN) 其实非常容易理解，将时间复杂度为O(logn)的代码循环N遍的话，那么它的时间复杂度就是 n * O(logN)，也就是了O(nlogN)

5)平方阶O(n²)

说明：平方阶O(n²) 就更容易理解了，如果把 O(n) 的代码再嵌套循环一遍，它的时间复杂度就是 O(n²)，这段代码其实就是嵌套了2层n循环，它的时间复杂度就是 O(n*n)，即  O(n²) 如果将其中一层循环的n改成m，那它的时间复杂度就变成了 O(m*n)

6)立方阶O(n³)、K次方阶O(n^k)

说明：参考上面的O(n²) 去理解就好了，O(n³)相当于三层n循环，其它的类似

1.3.6 平均时间复杂度和最坏时间复杂度

1)平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间。

2)最坏情况下的时间复杂度称最坏时间复杂度。一般讨论的时间复杂度均是最坏情况下的时间复杂度。 这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。

3)平均时间复杂度和最坏时间复杂度是否一致，和算法有关(如图:)。

1.3.7 算法的空间复杂度度

1)类似于时间复杂度的讨论，一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间，它也是问题规模n的函数。

2)空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。有的算法需要占用的临时工作单元数与解决问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元，例如快速排序和归并排序算法就属于这种情况

3)在做算法分析时，主要讨论的是时间复杂度。从用户使用体验上看，更看重的程序执行的速度。一些缓存产品(redis, memcache)和算法(基数排序)本质就是用空间换时间.

1.4 冒泡排序算法

/**
 * @author Wnlife
 * @create 2019-10-30 19:02
 * <p>
 * 冒泡排序
 */
public class BubbleSort {

    public static void main(String[] args) {

        int[] arr = new int[100];
        for (int i = 0; i < 100; i++) {
            arr[i] = (int) (Math.random() * 100);
        }
//        int[] arr = {3, 9, -1, 10, 20};

        //排序前
        System.out.println(Arrays.toString(arr));
        bubbleSort(arr);
        //排序前
        System.out.println(Arrays.toString(arr));
    }

    private static void bubbleSort(int[] arr) {
        int temp = 0;
        boolean flage;
        for (int i = 0; i < arr.length - 1; i++) {
            flage = false;
            for (int j = 0; j < arr.length - 1 - i; j++) {
                if (arr[j] > arr[j + 1]) {
                    flage = true;
                    temp = arr[j];
                    arr[j] = arr[j + 1];
                    arr[j + 1] = temp;
                }
            }
            System.out.printf("第%d趟的排序结果为：", i + 1);
            System.out.println(Arrays.toString(arr));
            if (!flage) break;
        }
    }
}

1.5 选择排序

1）基本介绍

选择式排序也属于内部排序法，是从欲排序的数据中，按指定的规则选出某一元素，再依规定交换位置后达到排序的目的。

2）选择排序的思想

选择排序（select sorting）也是一种简单的排序方法。它的基本思想是：第一次从arr[0]~arr[n-1]中选取最小值，与arr[0]交换，第二次从arr[1]~arr[n-1]中选取最小值，与arr[1]交换，第三次从arr[2]~arr[n-1]中选取最小值，与arr[2]交换，…，第i次从arr[i-1]~arr[n-1]中选取最小值，与arr[i-1]交换，…, 第n-1次从arr[n-2]~arr[n-1]中选取最小值，与arr[n-2]交换，总共通过n-1次，得到一个按排序码从小到大排列的有序序列。

3）代码示例

/**
 * @author Wnlife
 * @create 2019-11-19 9:14
 *
 * 选择排序算法
 */
public class SelectSort {

    public static void main(String[] args) {

        int[]arr={65,5,4,35,64,52};
        System.out.println("排序前："+Arrays.toString(arr));
        selectSort(arr);
        System.out.println("排序后："+Arrays.toString(arr));

    }

    public static void selectSort(int[]arr){

        for (int i = 0; i < arr.length-1; i++) {
            int min=arr[i];
            int minIndex=i;
            for (int j = i+1; j <arr.length ; j++) {
                if(arr[j]<min){
                    min=arr[j];
                    minIndex=j;
                }
            }
            if(minIndex!=i){
                arr[minIndex]=arr[i];
                arr[i]=min;
            }
        }

    }
}

1.6 插入排序

1）插入排序法介绍

插入式排序属于内部排序法，是对于欲排序的元素以插入的方式找寻该元素的适当位置，以达到排序的目的。

2）插入 排序法思想

插入排序（Insertion Sorting）的基本思想是：把n个待排序的元素看成为一个有序表和一个无序表，开始时有序表中只包含一个元素，无序表中包含有n-1个元素，排序过程中每次从无序表中取出第一个元素，把它的排序码依次与有序表元素的排序码进行比较，将它插入到有序表中的适当位置，使之成为新的有序表。

3）插入排序思路图

4）代码示例

/**
 * @author Wnlife
 * @create 2019-11-19 10:26
 * <p>
 * 插入排序
 */
public class InsertSort {

    public static void main(String[] args) {

        int[] arr = {12, 6, 32, 4, 58};
        System.out.println("排序之前：" + Arrays.toString(arr));
        insertSort(arr);
        System.out.println("排序之后：" + Arrays.toString(arr));

    }

    public static void insertSort(int[] arr) {

        for (int i = 1; i < arr.length; i++) {
            int insertVal = arr[i];
            int insertIndex = i - 1;

            //insertIndex>=0 ：使角标不越界
            //insertVal<arr[insertIndex] ：待插入的数，还没有找到插入位置
            while (insertIndex >= 0 && insertVal < arr[insertIndex]) {
                arr[insertIndex + 1] = arr[insertIndex];
                insertIndex--;
            }
            //说明插入的位置找到了
            if (insertIndex + 1 != i)
                arr[insertIndex + 1] = insertVal;

            System.out.println("第"+i+"数插入后的数组："+Arrays.toString(arr));
        }
    }

}

1.7 希尔排序算法

1）希尔排序法介绍

希尔排序是希尔（Donald Shell）于1959年提出的一种排序算法。希尔排序也是一种插入排序，它是简单插入排序经过改进之后的一个更高效的版本，也称为缩小增量排序。

2）希尔排序法基本思想

希尔排序是把记录按下标的一定增量分组，对每组使用直接插入排序算法排序；随着增量逐渐减少，每组包含的关键词越来越多，当增量减至1时，整个文件恰被分成一组，算法便终止

3）希尔排序法的示意图

 

4）代码示例

/**
 * @author Wnlife
 * @create 2019-11-19 12:06
 * <p>
 * 希尔排序
 */
public class ShellSort {

    public static void main(String[] args) {

        int[] arr = {8, 9, 1, 7, 2, 3, 5, 4, 6, 0};
        System.out.println("排序前：" + Arrays.toString(arr));
        shellSort(arr);
        System.out.println("排序后：" + Arrays.toString(arr));

    }

    public static void shellSort(int[] arr) {

        //增量gap，并逐步缩小增量
        for (int gap = arr.length / 2; gap > 0; gap /= 2) {

            //对每个分组的元素进行简单插入排序
            for (int i = gap; i < arr.length; i++) {
                int insertVal = arr[i];
                int insertIndex = i - gap;
                if (insertVal < arr[insertIndex]) {

                    while (insertIndex >= 0 && insertVal < arr[insertIndex]) {
                        arr[insertIndex + gap] = arr[insertIndex];
                        insertIndex -= gap;
                    }
                    arr[insertIndex + gap] = insertVal;
                }
            }
            System.out.println("增量为"+gap+"的分组排序后的数组："+Arrays.toString(arr));
        }

    }
}

1.8 快速排序

快速排序（Quicksort）是对冒泡排序的一种改进，借用了分治的思想，由C. A. R. Hoare在1962年提出。

1）基本思想

快速排序的基本思想：挖坑填数+分治法。

首先选一个轴值(pivot，也有叫基准的)，通过一趟排序将待排记录分隔成独立的两部分，其中一部分记录的关键字均比另一部分的关键字小，则可分别对这两部分记录继续进行排序，以达到整个序列有序。

2）算法描述

快速排序使用分治策略来把一个序列（list）分为两个子序列（sub-lists）。步骤为：

①. 从数列中挑出一个元素，称为”基准”（pivot）。
②. 重新排序数列，所有比基准值小的元素摆放在基准前面，所有比基准值大的元素摆在基准后面（相同的数可以到任一边）。在这个分区结束之后，该基准就处于数列的中间位置。这个称为分区（partition）操作。
③. 递归地（recursively）把小于基准值元素的子数列和大于基准值元素的子数列排序。

递归到最底部时，数列的大小是零或一，也就是已经排序好了。这个算法一定会结束，因为在每次的迭代（iteration）中，它至少会把一个元素摆到它最后的位置去。

3）代码实现

/**
 * @author Wnlife
 * @create 2019-11-19 15:04
 * <p>
 * 快速排序
 */
public class QuickSort {

    public static void main(String[] args) {
        int[] arr = {8, 9, 1, 7, 2, 3, 5, 4, 6, 0};
        System.out.println("排序前：" + Arrays.toString(arr));
        qucikSort(arr,0,arr.length-1);
        System.out.println("排序后：" + Arrays.toString(arr));
    }

    public static void qucikSort(int[] arr, int left, int right) {

        if (arr.length <= 0) return;
        if (left >= right) return;
        int l = left;
        int r = right;
        int pivot = arr[l]; //挖坑1：保存基准的值
        while (l < r) {
            while (l < r && arr[r] >= pivot)//坑2：从后向前找到比基准小的元素，插入到基准位置坑1中
                r--;
            arr[l] = arr[r];
            while (l < r && arr[l] <= pivot)//坑3：从前往后找到比基准大的元素，放到刚才挖的坑2中
                l++;
            arr[r]=arr[l];
        }
        arr[l]=pivot;//基准值填补到坑3中，准备分治递归快排
        qucikSort(arr,left,l-1);
        qucikSort(arr,l+1,right);
    }
}

1.9 归并排序

1）归并排序介绍

归并排序（MERGE-SORT）是利用归并的思想实现的排序方法，该算法采用经典的分治（divide-and-conquer）策略（分治法将问题分(divide)成一些小的问题然后递归求解，而治(conquer)的阶段则将分的阶段得到的各答案"修补"在一起，即分而治之)。

2）归并排序思想示意图1-基本思想:

说明:  可以看到这种结构很像一棵完全二叉树，本文的归并排序我们采用递归去实现（也可采用迭代的方式去实现）。分阶段可以理解为就是递归拆分子序列的过程。

3）  归并排序思想示意图2-合并相邻有序子序列:

再来看看治阶段，我们需要将两个已经有序的子序列合并成一个有序序列，比如上图中的最后一次合并，要将[4,5,7,8]和[1,2,3,6]两个已经有序的子序列，合并为最终序列[1,2,3,4,5,6,7,8]，来看下实现步骤

4）代码示例

/**
 * @author Wnlife
 * @create 2019-11-19 17:09
 * <p>
 * 归并排序
 */
public class MergetSort {

    public static void main(String[] args) {

        int[] arr = {8, 9, 1, 7, 2, 3, 5, 4, 6, 0};
        System.out.println("排序前：" + Arrays.toString(arr));
        int[] temp = new int[arr.length];
        mergeSort(arr, 0, arr.length - 1, temp);
        System.out.println("排序后：" + Arrays.toString(arr));

    }

    public static void mergeSort(int[] arr, int left, int right, int[] temp) {

        if (arr.length <= 0)
            return;
        if (left < right) {
            int mid = (left + right) / 2;//中间索引
            mergeSort(arr, left, mid, temp);//将左边数组进行分解
            mergeSort(arr, mid + 1, right, temp);//将右将边数组进行分解
            merge(arr, left, mid, right, temp);//合并分解后的数组
        }

    }

    //合并的方法
    public static void merge(int[] arr, int left, int mid, int right, int[] temp) {

        int i = left;//左边数组的初始索引
        int j = mid + 1;//右边数组的初始索引
        int t = 0;//初始值

        //一: 先把左右两边（有序）的数据按照规则填充到temp数组，
        // 直到左右两边有序数列有一边处理完毕为止
        while (i <= mid && j <= right) {
            //如果左边的有序数列的当前元素小于右边的有序数列的当前元素，
            // 则将左边的数列的当前元素放入到临时数组中
            if (arr[i] <= arr[j]) {
                temp[t++] = arr[i++];
            }else {
                //如果右边的有序数列的当前元素小于左边的有序数列的当前元素，
                // 则将右边的数列的当前元素放入到临时数组中
                temp[t++]=arr[j++];
            }
        }

        //二: 将左右边数组剩余的元素放入到temp数组中
        while(i<=mid){
            temp[t++] = arr[i++];
        }
        while(j<=right){
            temp[t++] = arr[j++];
        }

        //三: 将temp数组的元素拷贝到arr,注意，并不是每次都拷贝所有
        t=0;
        //第一次合并 tempLeft = 0 , right = 1
        // tempLeft = 2  right = 3 // tL=0 ri=3
        //最后一次 tempLeft = 0  right = 7
        while(left<=right){
            arr[left++]=temp[t++];
        }

    }
}

1.10 基数排序

1）基数排序(桶排序)介绍:

1. 基数排序（radix sort）属于“分配式排序”（distribution sort），又称“桶子法”（bucket sort）或bin sort，顾名思义，它是通过键值的各个位的值，将要排序的元素分配至某些“桶”中，达到排序的作用
2. 基数排序法是属于稳定性的排序，基数排序法的是效率高的稳定性排序法
3. 基数排序(Radix Sort)是桶排序的扩展
4. 基数排序是1887年赫尔曼·何乐礼发明的。它是这样实现的：将整数按位数切割成不同的数字，然后按每个位数分别比较。

2）基数排序基本思想

1. 将所有待比较数值统一为同样的数位长度，数位较短的数前面补零。然后，从最低位开始，依次进行一次排序。这样从最低位排序一直到最高位排序完成以后, 数列就变成一个有序序列。
2. 这样说明，比较难理解，下面我们看一个图文解释，理解基数排序的步骤

3）基数排序图文说明

将数组 {53, 3, 542, 748, 14, 214} 使用基数排序, 进行升序排序。

4）基数排序代码实现

/**
 * @author Wnlife
 * @create 2019-11-20 10:20
 * <p>
 * 基数排序
 */
public class RadixSort {

    public static void main(String[] args) {

        int[] arr = {8, 9, 1, 7, 2, 3, 5, 4, 6, 0};
        System.out.println("排序前：" + Arrays.toString(arr));
        radixSort(arr);
        System.out.println("排序后：" + Arrays.toString(arr));
    }

    public static void radixSort(int[] arr) {

        //1.得到数组中最大数的位数
        int max = arr[0];
        for (int i = 0; i < arr.length; i++) {
            if (arr[i] > max)
                max = arr[i];
        }
        int maxLength = (max + "").length();

        //定义一个二维数组表示10个桶，每个桶就是一个一维数组
        //二维数组包含10个一维数组
        int[][] bucket = new int[10][arr.length];

        //使用一个一维数组表示每个桶中实际存放了多少个数据
        //比如：bucketElementCounts[0] , 记录的就是  bucket[0] 桶的放入数据个数
        int[] bucketElementCount = new int[10];

        for (int i = 0, n = 1; i < bucket.length; i++, n *= 10) {
            //针对每个元素的对应位进行对应位的处理，第一次是个位，第二次是十位，第三次是百位
            for (int j = 0; j < arr.length; j++) {
                //取出对应的位元素
                int digitOfElement = arr[j] / n % 10;
                //放入对应的桶中
                bucket[digitOfElement][bucketElementCount[digitOfElement]++] = arr[j];
            }

            //将桶中的元素依次取出，放入原数组中
            int index = 0;
            for (int k = 0; k < bucket.length; k++) {
                //如果当前桶中的实际元素数不为0，循环取出桶中的元素
                if (bucketElementCount[k] != 0) {
                    for (int j = 0; j < bucketElementCount[k]; j++) {
                        //将取出的元素放入到原数组中
                        arr[index++]=bucket[k][j];
                    }
                    //将桶中的元素个数计数器清空
                    bucketElementCount[k]=0;
                }
            }
        }
    }

}

5）基数排序说明

• 基数排序是对传统桶排序的扩展，速度很快.
• 基数排序是经典的空间换时间的方式，占用内存很大, 当对海量数据排序时，容易造成 OutOfMemoryError 。
• 基数排序时稳定的。[注:假定在待排序的记录序列中，存在多个具有相同的关键字的记录，若经过排序，这些记录的相对次序保持不变，即在原序列中，r[i]=r[j]，且r[i]在r[j]之前，而在排序后的序列中，r[i]仍在r[j]之前，则称这种排序算法是稳定的；否则称为不稳定的]
• 有负数的数组，我们不用基数排序来进行排序, 如果要支持负数，参考: https://code.i-harness.com/zh-CN/q/e98fa9

1.11 常用的排序算法总结

常用排序算法对比：

相关术语解释：

1. 稳定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面；
2. 不稳定：如果a原本在b的前面，而a=b，排序之后a可能会出现在b的后面；
3. 内排序：所有排序操作都在内存中完成；
4. 外排序：由于数据太大，因此把数据放在磁盘中，而排序通过磁盘和内存的数据传输才能进行；
5. 时间复杂度： 一个算法执行所耗费的时间。
6. 空间复杂度：运行完一个程序所需内存的大小。
7. n: 数据规模
8. k: “桶”的个数
9. In-place:    不占用额外内存
10. Out-place: 占用额外内存