Python之十大经典排序算法的实现和原理

一、冒泡排序

• 冒泡排序（Bubble Sort）是一种比较简单的排序算法，它重复地走访过要排序的元素，依次比较相邻两个元素，如果它们的顺序错误就把它们调换过来，直到没有元素再需要交换，排序完成。
• 冒泡排序的原理如下所示，数字表示的是数据序列原始的索引号：

• 算法过程：
• • 比较相邻的元素，如果前一个比后一个大，就把它们两个对调位置；
• • 对排序数组中每一对相邻元素做同样的工作，直到全部完成，此时最后的元素将会是本轮排序中最大的数；
• • 对剩下的元素继续重复以上的步骤，直到没有任何一个元素需要比较；
• • 冒泡排序每次找出一个最大的元素，因此需要遍历 n-1 次 （n 为数据序列的长度）。
• 算法特点：
• • 什么时候最快（Best Cases）：当输入的数据已经是正序时；
• • 什么时候最慢（Worst Cases）：当输入的数据是反序时。
• 实现示例：

def bubble_sort(lst):
    n = len(lst)
    for i in range(n):
        for j in range(1, n - i):
            if lst[j - 1] > lst[j]:
                lst[j - 1], lst[j] = lst[j], lst[j - 1]
    return lst

二、选择排序

• 选择排序（Selection Sort）的原理，每一轮从待排序的记录中选出最小的元素，存放在序列的起始位置，然后再从剩余的未排序元素中寻找到最小元素，然后放到已排序的序列的末尾。以此类推，直到全部待排序的数据元素的个数为零，得到数值从小到达排序的数据序列。
• 也可以每一轮找出数值最大的元素，这样的话，排序完毕后的数组最终是从大到小排列。选择排序每次选出最小（最大）的元素，因此需要遍历 n-1 次。
• 选择排序的原理如下：

• 实现示例：

def selection_sort(lst):
    for i in range(len(lst) - 1):  
        min_index = i
        for j in range(i + 1, len(lst)):
            if lst[j] < lst[min_index]:
                min_index = j  
        lst[i], lst[min_index] = lst[min_index], lst[i] 
    return lst

三、快速排序

• 快速排序（Quick Sort），是在上世纪 60 年代，由美国人东尼·霍尔提出的一种排序方法，这种排序方式，在当时已经是非常快的一种排序，因此在命名上，才将之称为“快速排序”。
• 算法过程：
• • 先从数据序列中取出一个数作为基准数（baseline，习惯取第一个数）；
• • 分区过程，将比基准数小的数全放到它的左边，大于或等于它的数全放到它的右边；
• • 再对左右区间递归（recursive）重复第二步，直到各区间只有一个数。
• 因为数据序列之间的顺序都是固定的，最后将这些子序列一次组合起来，整体的排序就完成。
• 如下所示，对于数据序列，先取第一个数据 15 为基准数，将比 15 小的数放在左边，比 15 大（大于或等于）的数放在右边：

• 接下来，对于左边部分，重复上面的步骤，如下所示，取左边序列的第一个数据 11 为基准数，将比 11 小的数放在左边，比 11 大（大于或等于）的数放在右边：

• 继续递归重复上述过程，直到每个区间只有一个数，这样就会完成排序。
• 实现示例：

def quick_sort(lst):  
    n = len(lst)
    if n <= 1:
        return lst
    baseline = lst[0] 
    left = [lst[i] for i in range(1, len(lst)) if lst[i] < baseline] 
    right = [lst[i] for i in range(1, len(lst)) if lst[i] >= baseline]
    return quick_sort(left) + [baseline] + quick_sort(right)

四、归并排序

• 归并排序（Merge Sort）是建立在归并操作上的一种有效的排序算法，该算法是采用分治法的一个非常典型的应用，归并排序将两个已经有序的子序列合并成一个有序的序列。
• 算法流程：
• • 进行序列拆分，一直拆分到只有一个元素；
• • 拆分完成后，开始递归合并。
• 思路：假设有一个没有排好序的序列，那么首先使用拆分的方法将这个序列分割成一个个已经排好序的子序列（直到剩下一个元素），然后再利用归并方法将一个个有序的子序列合并成排好序的序列。
• • 拆分：
• • 对于数据序列 [15,11,13,18,10]，从首先从数据序列的中间位置开始拆分，中间位置的设置为 mid = n/2，首次拆分如下：

• • 第一次拆分后，依次对子序列进行拆分，拆分过程如下：

• 合并：
• • 合并过程中，对于左右分区以及其子区间，递归使用合并方法，先从左边最小的子区间开始，对于每个区间，依次将最小的数据放在最左边，然后对右边区间也执行同样的操作。
• • 合并过程如下：

• 实现示例：

def merge_sort(lst):
    def merge(left,right):
        i = 0
        j = 0   
        result = []    
        while i < len(left) and j < len(right):  
            if left[i] <= right[j]:    
                result.append(left[i])
                i += 1
            else:
                result.append(right[j])
                j += 1
        result = result + left[i:] + right[j:]
        return result
    n = len(lst)
    if n <= 1:     
        return lst 
    mid = n // 2 
    left = merge_sort(lst[:mid])
    right = merge_sort(lst[mid:])
    return merge(left,right)

五、堆排序

① 堆的定义

• 对于 n 个元素的数据序列，当且仅当满足下列情形之一时，才称之为堆。
• • 情形 1：

• • 情形 2：

• 若序列 {k₀, k₁, k₂, k₃, …, k_n-1} 是堆，则堆顶元素必为序列中n个元素的最小值或最大值。
• • 小顶堆如下图所示：

• • 大顶堆如下图所示：

• 若在输出堆顶的最小值（或最大值）之后，使得剩余 n-1 个元素的序列重又建成一个堆，则得到 n 个元素的次小值（或次大值）。如此反复执行，便能得到一个有序序列，这个过程称之为“堆排序”。

② 堆的存储

• 一般用数组来表示堆，若根结点存在序号 0 处， i 结点的父结点下标就为 (i-1)/2，i 结点的左右子结点下标分别为 2i+1 和 2i+2 。
• 对于上面提到的小顶堆和大顶堆，其数据存储情况如下（图中右边为其数据存储结构，左边为其逻辑结构）：

③ 堆排序

• 实现堆排序需要解决两个问题：
• • 如何由一个无序序列建成一个堆？
• • 如何在输出堆顶元素之后，调整剩余元素成为一个新的堆？
• 堆的初始化：
• • 第一个问题实际上就是堆的初始化，那么如何构造初始堆呢？假设初始的数据序列如下：

• • 需要将其以树形结构来展示，如下：

• • 初始化堆的时候是对所有的非叶子结点进行筛选，最后一个非终端元素的下标是 [n/2] 向下取整，所以筛选只需要从第 [n/2] 向下取整个元素开始，从后往前进行调整。
• • 从最后一个非叶子结点开始，每次都是从父结点、左边子节点、右边子节点中进行比较交换，交换可能会引起子结点不满足堆的性质，所以每次交换之后需要重新对被交换的子结点进行调整。
• • 以小顶堆为例，构造初始堆的过程如下：

• 进行堆排序：
• • 有了初始堆之后就可以进行排序，堆排序是一种选择排序，建立的初始堆为初始的无序区；
• • 排序开始，首先输出堆顶元素（因为它是最值），将堆顶元素和最后一个元素交换，这样第 n 个位置（即最后一个位置）作为有序区，前 n-1 个位置仍是无序区，对无序区进行调整，得到堆之后，再交换堆顶和最后一个元素，这样有序区长度变为 2；
• • 大顶堆：

• • 交换堆顶元素和最后的元素：

• • 无序区 -1，有序区 +1：

• • 不断进行此操作，将剩下的元素重新调整为堆，然后输出堆顶元素到有序区，每次交换都导致无序区 -1，有序区 +1，不断重复此过程直到有序区长度增长为 n-1，排序完成。
• 实现示例：

def heap_sort(lst):
    def adjust_heap(lst, i, size):
        left_index = 2 * i + 1
        right_index = 2 * i + 2
        largest_index = i 
        if left_index < size and lst[left_index] > lst[largest_index]: 
            largest_index = left_index 
        if right_index < size and lst[right_index] > lst[largest_index]: 
            largest_index = right_index 
        if largest_index != i: 
            lst[largest_index], lst[i] = lst[i], lst[largest_index] 
            adjust_heap(lst, largest_index, size)

    def built_heap(lst, size):
        for i in range(len(lst)//2)[::-1]: 
            adjust_heap(lst, i, size) 

    size = len(lst)
    built_heap(lst, size) 
    for i in range(len(lst))[::-1]:         
        lst[0], lst[i] = lst[i], lst[0]
        adjust_heap(lst, 0, i) 
    return lst

六、插入排序

• 插入排序（Insertion Sort）就是每一步都将一个需要排序的数据按其大小插入到已经排序的数据序列中的适当位置，直到全部插入完毕。
• 如下所示，插入排序如同打扑克牌一样，每次将后面的牌插到前面已经排好序的牌中：

• 实现示例：

def insertion_sort(lst):
    for i in range(len(lst) - 1):
        cur_num, pre_index = lst[i+1], i
        while pre_index >= 0 and cur_num < lst[pre_index]:
            lst[pre_index + 1] = lst[pre_index]
            pre_index -= 1
        lst[pre_index + 1] = cur_num 
    return lst

七、希尔排序

• 希尔排序（Shell Sort）是插入排序的一种更高效率的实现，核心在于间隔序列的设定，既可以提前设定好间隔序列，也可以动态的定义间隔序列。
• 以动态间隔序列为例来描述，初始间隔（gap 值）为数据序列长度除以 2 取整，后续间隔以前一个间隔数值除以 2 取整为循环，直到最后一个间隔值为 1。
• 对于下面这个数据序列，初始间隔数值为 5：

• 先将数据序列按间隔进行子序列分组，第一个子序列的索引为 [0,5,10]，这里分成 5 组：

• 为方便大家区分不同的子序列，对同一个子序列标注相同的颜色，分组情况如下：

• 分组结束后，子序列内部进行插入排序，gap 为 5 的子序列内部排序后如下：

• 子序列内部排序后的状态，如下所示：

• 接下来选取第二个间隔值，按照间隔值进行子序列分组，同样地，子序列内部分别进行插入排序；如果数据序列比较长，则会选取第 3 个、第 4 个或者更多个间隔值，重复上述的步骤：

• gap 为 2 的排序情况前后对照如下：

• 最后一个间隔值为 1，这一次相当于简单的插入排序，但是经过前几次排序，序列已经基本有序，因此最后一次排序时间效率就提高了很多：

• 实现示例：

def shell_sort(lst):
    n = len(lst)
    gap = n // 2
    while gap > 0:
        for i in range(gap, n):
            for j in range(i, gap - 1, -gap):
                if lst[j] < lst[j - gap]:
                    lst[j], lst[j - gap] = lst[j - gap], lst[j]
                else:
                    break
        gap //= 2
    return lst

八、计数排序

• 计数排序（Counting Sort）的核心在于将输入的数据值转化为键，存储在额外开辟的数组空间中，计数排序要求输入的数据必须是有确定范围的整数。
• 算法的步骤如下：
• • 先找出待排序的数组中最大和最小的元素，新开辟一个长度为最大值-最小值 +1 的数组；

• • 然后，统计原数组中每个元素出现的次数，存入到新开辟的数组中；

• 接下来，根据每个元素出现的次数，按照新开辟数组中从小到大的秩序，依次填充到原来待排序的数组中，完成排序：

• 实现示例：

def counting_sort(lst):
    nums_min = min(lst)
    bucket = [0] * (max(lst) + 1 - nums_min)
    for num in lst:
        bucket[num - nums_min] += 1
    i = 0
    for j in range(len(bucket)):
        while bucket[j] > 0:
            lst[i] = j + nums_min
            bucket[j] -= 1
            i += 1
    return lst

九、桶排序

① 基本思想

• 简单来说，桶排序（Bucket Sort）就是把数据分组，放在一个个的桶中，对每个桶里面的数据进行排序，然后将桶进行数据合并，完成桶排序。该算法分为四步，包括划分桶、数据入桶、桶内排序、数据合并。
• 桶的划分过程：
• • 对于一个数值范围在 10 到 49 范围内的数组，取桶的大小为 10 （defaultBucketSize = 10），则第一个桶的范围为 10 到 20，第二个桶的数据范围是 20 到 30，依次类推；

• • 最后一共需要 4 个桶来放入数据：

② 排序过程

• 对于下面这个数据序列，初始设定桶的大小为 20 （defaultBucketSize = 20），经计算一共需要 4 个桶来放入数据：

• 然后将原始数组按数值大小放入到对应的桶中，完成数据分组：

• 对于桶内的数据序列，这时可以用冒泡排序、选择排序等多种排序算法来对数据进行排序。可以选用冒泡排序来对桶内数据进行排序：

• 桶内排序完成后，将数据按桶的顺序进行合并，这样就得到所有数值排好序的数据序列：

• 实现示例：

def bucket_sort(lst, defaultBucketSize=4):
    maxVal, minVal = max(lst), min(lst)
    bucketSize = defaultBucketSize
    bucketCount = (maxVal - minVal) // bucketSize + 1  
    buckets = [[] for i in range(bucketCount)]
    for num in lst:
        buckets[(num - minVal)     // bucketSize].append(num)
    lst.clear()  
    for bucket in buckets:
        bubble_sort(bucket)  
        lst.extend(bucket)
    return lst

十、基数排序

① 基本思想

• 基数排序（radix sort）属于“分配式排序”（distribution sort），它是透过键值的部份信息，将要排序的元素分配至某些“桶”中，以达到排序的作用。基数排序适用于所有元素均为正整数的数组。
• 排序过程分为“分配”和“收集”，排序过程中，将元素分层为多个关键码进行排序（一般按照数值的个位、十位、百位、…… 进行区分），多关键码排序按照从最主位关键码到最次位关键码或从最次位到最主位关键码的顺序逐次排序。
• 基数排序的方式可以采用最低位优先 LSD（Least sgnificant digital）法或最高位优先 MSD（Most sgnificant digital）法，LSD 的排序方式由键值的最右边开始，而 MSD 则相反，由键值的最左边开始。
• LSD 的基数排序适用于位数小的数列，如果位数多的话，使用 MSD 的效率会比较好，MSD 的方式恰与 LSD 相反，是由高位数为基底开始进行分配，其它的演算方式则都相同。

② 算法流程

• 以最低位优先 LSD 为例：
• • 先根据个位数的数值，在扫描数值时将它们分配至编号 0 到 9 的桶中，然后将桶子中的数值串接起来：

• • 将这些桶子中的数值重新串接起来，成为新的序列，接着再进行一次分配，这次是根据十位数来分配：

• 如果排序的对象有三位数以上，则持续进行以上的动作直至最高位数为止。
• 实现示例：

# LSD Radix Sort
def radix_sort(lst):
    mod = 10
    div = 1
    mostBit = len(str(max(lst))) 
    buckets = [[] for row in range(mod)] 
    while mostBit:
        for num in lst:  
            buckets[num // div % mod].append(num)
        i = 0  
        for bucket in buckets:  
            while bucket:
                lst[i] = bucket.pop(0)
                i += 1
        div *= 10
        mostBit -= 1
    return lst