详解三种排序

直接插入排序

直接插入排序（Insertion Sort）可以说是排序里最简单的了。为简化问题，我们下面只讨论升序排序。

代码如下：

void InsertSort(int array[], int left, int right)

{

    int temp;

    int j;

  

    for (int i = left + 1; i <= right; i++)

    {

        temp = array[i];

        j = i - 1;

      

        while (j >= left && array[j] > temp)

            array[j + 1] = array[j--];

      

        array[j + 1] = temp;

    }

}

那么它的算法复杂度如下：

时间复杂度

1、最好情况，序列是升序排列，在这种情况下，只需进行 n-1 比较，即 Tbest(n)=O(n)；

2、最坏情况，序列是降序排列，那么此时需要进行的比较共有 12n(n−1) 次，即 Tworse(n)=O(n2)；

3、平均情况，为 Tavg(n)=O(n2)。

空间复杂度

由程序很容易得 S(n)=O(1)。

直接插入排序不适合对于数据量比较大的排序应用。但是，如果需要排序的数据量很小，例如量级小于千，那么直接插入排序还是一个不错的选择，因此在 STL 的 sort 算法和 stdlib 的 qsort 算法中，都将直接插入排序作为快速排序的补充，用于少量元素的排序（通常为 8 个或以下）。

此外直接插入排序有两个常用的优化：二分查找插入排序，希尔排序。下面分别介绍。

二分查找插入排序

因为在一个有序序列中查找一个插入位置，所以可使用二分查找，减少元素比较次数提高效率。

/* 给定一个有序的数组，查找第一个大于等于 value 的下标，不存在返回 -1 */

int BinarySearch(int array[], int n, int value)

{

    int left = 0;

    int right = n - 1;

 

    while (left <= right)

    {

        int middle = left + ((right - left) >> 1);

 

        if (array[middle] >= value)

            right = middle - 1;

        else

            left = middle + 1;

    }

 

    return (left < n) ? left : -1;

}

 

void BinaryInsertSort(int array[], int left, int right)

{

    for (int i = left + 1; i <= right; i++)

    {

        int insert_index = BinarySearch(array, i, array[i]);

      

        if (insert_index != -1)  // 如果可以插入到前面的有序序列中

        {

            int temp = array[i];

            int j = i - 1;

          

            while (j >= insert_index)

            {

                array[j + 1] = array[j];

                j--;

            }

          

            array[j + 1] = temp;

        }

    }

}

最好情况下，即序列为升序时，时间复杂度为O(logn)。

其它情况下，除了找到插入点所需的操作数从 O(n) 降为 O(logn) 外，其它的操作并未减小，其时间复杂度依旧是 O(n2)。

希尔排序

希尔排序，也称递减增量排序算法，以其设计者希尔（Donald Shell）的名字命名，该算法由 1959 年公布。

我们举个例子来描述算法流程（以下摘自维基百科）：

假设有这样一组数 {13, 14, 94, 33, 82, 25, 59, 94, 65, 23, 45, 27, 73, 25, 39, 10}，如果我们以步长为 5 开始进行排序：

然后我们对每列进行排序：

将上述四行数字，依序接在一起时我们得到：{10, 14, 73, 25, 23, 13, 27, 94, 33, 39, 25, 59, 94, 65, 82, 45}，然后再以 3 为步长：

排序之后变为：

最后以 1 为步长进行排序（此时就是简单的插入排序了）。

可想而知，步长的选择是希尔排序的重要部分。

算法最开始以一定的步长进行排序，然后会继续以更小的步长进行排序，最终算法以步长为 1 进行排序。当步长为 1 时，算法变为直接插入排序，这就保证了数据一定会被全部排序。

Donald Shell 最初建议步长选择为 n2，并且对步长取半直到步长达到 1。虽然这样取可以比 O(n2) 类的算法（直接插入排序）更好，但这样仍然有减少平均时间和最差时间的余地。

可能希尔排序最重要的地方在于当用较小步长排序后，以前用的较大步长仍然是有序的。比如，如果一个数列以步长 5 进行了排序然后再以步长 3 进行排序，那么该数列不仅是以步长 3 有序，而且是以步长 5 有序。

如果不是这样，那么算法在迭代过程中会打乱以前的顺序，那就不会以如此短的时间完成排序了。

已知的最好步长序列是由 Sedgewick 提出的 {1, 5, 19, 41, 109, ...}，该序列的项来自 9⋅4i−9⋅2i+1 和 2i+2⋅(2i+2−3)+1 这两个算式。

这项研究也表明比较在希尔排序中是最主要的操作，而不是交换。

用这样步长序列的希尔排序比插入排序要快，甚至在小数组中比快速排序和堆排序还快，但是在涉及大量数据时希尔排序还是比快速排序慢。

另一个在大数组中表现优异的步长序列是：{1, 9, 34, 182, 836, 4025, 19001, 90358, 428481, 2034035, 9651787, 45806244, 217378076, 1031612713, …}（斐波那契数列除去 0 和 1，将剩余的数以黄金分区比的两倍的幂进行运算得到的数列）

void ShellSort(int array[], int n)

{

    for (int gap = n >> 1; gap > 0; gap >>= 1)

    {

        for (int i = gap; i < n; i++)

        {

            int temp = array[i];

            int j = i - gap;

            

            while (j >= 0 && array[j] > temp)

            {

                array[j + gap] = array[j];

                j -= gap;

            }

            

            array[j + gap] = temp;

        }

    }

}

https://61mon.com/index.php/archives/193/