排序系列--插入排序和希尔排序

1.排序的概念

排序：所谓排序，就是使一串记录，按照其中的某个或某些关键字的大小，递增或递减的排列起来的操作。
稳定性：假定在待排序的记录序列中，存在多个具有相同的关键字的记录，若经过排序，这些记录的相对次序保持不变，即在原序列中，r[i]=r[j]，且r[i]在r[j]之前，而在排序后的序列中，r[i]仍在r[j]之前，则称这种排序算法是稳定的；否则称为不稳定的。
内部排序：数据元素全部放在内存中的排序。
外部排序：数据元素太多不能同时放在内存中，根据排序过程的要求不能在内外存之间移动数据的排序。

2. 插入排序

2.1基本思想

直接插入排序是一种简单的插入排序法，其基本思想是：
把待排序的记录按其关键码值的大小逐个插入到一个已经排好序的有序序列中，直到所有的记录插入完为止，得到一个新的有序序列 。

2.2直接插入排序

当插入第i(i>=1)个元素时，前面的array[0],array[1],…,array[i-1]已经排好序，此时用array[i]的排序码与array[i-1],array[i-2],…的排序码顺序进行比较，找到插入位置即将array[i]插入，原来位置上的元素顺序后移。
如下是动图的展示：
我们再通过代码来具体的了解细节：

//直接插入排序(升序)
void InsertSort(int* a, int n)
{
	//数组共有n个元素，第n个元素的下标是n-1
	//从第二个元素开始进行插入排序，当i=0时是第2个元素在进行插入排序
	//当i=n-2时就是第n个元素在进行插入排序
	for (int i = 0; i < n - 1; i++)
	{
		
		int j, tmp = a[i + 1];
		for (j = i; j >= 0; j--)
		{
			if (a[j] > tmp)
			{
				a[j + 1] = a[j];
			}
			else
			{
				break;
			}
		}
		a[j + 1] = tmp;
	}
}

直接插入排序的特性总结：

1. 元素集合越接近有序，直接插入排序算法的时间效率越高（这样可以减少元素移动的次数）
2. 时间复杂度和空间复杂度：
   时间复杂度为O(N^2)：
   按每趟排序移动元素次数最多的情况来看(原本就是逆序)，它们构成一个等差数列，为1+2+3+……+(n-2)+(n-1),由时间复杂度的大O渐近算法求得时间复杂度为O(N^2)。
   空间复杂度为O(1)（因为只开辟了常数个变量）。
3. 稳定性：稳定（当前后两个元素相等时是不会被交换的）

2.3希尔排序

希尔排序法又称缩小增量法。希尔排序法的基本思想是：先选定一个整数，把待排序文件中所有元素分成gap个组，所有距离为gap的记录分在同一组内，并对每一组内的元素进行直接插入排序。然后有规律的缩小gap的值，重复上述分组和排序的工作。当gap=1时，所有元素就在同一组内，这时再对整组进行直接插入排序，这样最终就排好了。

注意：gap一开始的取值并不是被固定死的，但gap等于数组元素个数是比较好的，而且最后gap一定要能取到1。

那为什么要把所元素进行分组处理呢？这样有什么好处？
首先我们通过上面直接插入排序来看：
上面这张图的左边是还没进行直接插入排序的一组元素，右边是最后有序的情况，其中35要想从第二个位置移动到倒数第二个位置，中间得经过很多次的移动，需要很多的时间，而希尔排序的分组再排序就是以最小的移动代价，来将35移到后面去。

由上面这张图我们可以看出来，35和9交换位置只需要一次，而前面的直接插入排序要想达到这个效果却需要更多次。

下面这张图可以很清楚的展示希尔排序的整个过程：

具体看看代码：

//希尔排序
void ShellSort(int* a, int n)
{
	int gap = n;
	while (gap > 1)
	{
		gap = gap / 2;
		//这里for循环每执行完一轮就i++，效果就是被分的gap组并排排序
		//而不是等某一组全排完了再来开始下一组。（本质还是直接插入排序）
		for (int i = 0; i < n - gap; i++)
		{
			int end = i;
			int tmp = a[end + gap];
			while (end >= 0)
			{
				if (a[end] > tmp)
				{
					a[end + 1] = a[end];
				}
				else
				{
					break;
				}
				end -= gap;
			}
			a[end + gap] = tmp;
		}
	}
}

希尔排序的特性总结：

1. 希尔排序是对直接插入排序的优化。
2. 当gap > 1时都是预排序，目的是让数组更接近于有序。当gap == 1时，数组已经接近有序的了，这样就会很快。这样整体而言，可以达到优化的效果。
3. 稳定性：不稳定。
4. 希尔排序的空间复杂度为O(1)（因为只开辟了常数个变量）。
5. 希尔排序的时间复杂度不好计算，因为gap的取值方法很多，导致很难去计算，因此很多时候希尔排序的时间复杂度都不固定。

总之希尔排序对直接插入排序进行了优化，时间复杂度大概是O(n^1.3)