十大经典排序算法
0、算法概述
0.1 分类
- 比较类排序:通过比较来决定元素间的相对次序,时间复杂度不能突破O(nlogn),称为非线性时间比较类排序。
- 非比较类排序:不能通过比较元素间的相对次序,可以突破基于比较排序的时间下界,以线性时间运行,因此也称为线性时间非比较类排序。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-7eGMDUbV-1619852909960)(E:\BaiduNetdiskDownload\image-20210429140038983.png)]
0.2 算法复杂度
排序方法 | 时间复杂度(平均) | 时间复杂度(最坏) | 时间复杂度(最好) | 空间复杂度 | 稳定性 |
---|---|---|---|---|---|
插入排序 | O(n^2) | O(n^2) | O(n) | O(1) | 稳定 |
希尔排序 | O(n^1.3) | O(n^2) | O(n) | O(1) | 不稳定 |
选择排序 | O(n^2) | O(n^2) | O(n^2) | O(1) | 不稳定 |
堆排序 | O(nlogn) | O(nlogn) | O(nlogn) | O(1) | 不稳定 |
冒泡排序 | O(n^2) | O(n^2) | O(n) | O(1) | 稳定 |
快速排序 | O(nlogn) | O(n^2) | O(nlogn) | O(nlogn) | 不稳定 |
归并排序 | O(nlogn) | O(nlogn) | O(nlogn) | O(n) | 稳定 |
计数排序 | O(n+k) | O(n+k) | O(n+k) | O(n+k) | 稳定 |
桶排序 | O(n+k) | O(n^2) | O(n) | O(n+k) | 稳定 |
基数排序 | O(n*k) | O(n*k) | O(n*k) | O(n+k) | 稳定 |
0.3 相关概念
- 稳定:如果a原本在b前面,而a=b,排序之后a仍然在b前面。
- 不稳定:如果a原本在b前面,而a=b, 排序之后a可能会出现在b的后面。
- 时间复杂度:对排序数据的总的操作次数。反映当n变化时,操作次数呈现的规律情况。
- 空间复杂度:是指算法在计算机内执行时所需存储空间的度量,是数据规模n的函数。
1、冒泡排序(Bubble Sort)
冒泡排序是一种简单的排序算法。重复地走访过要排序的数列,一次比较两个元素,如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换,也就是说该数列已经排序完成。名字由来:较小的元素会经由交换慢慢“浮”到数列的顶端。
1.1 算法描述
- 比较相邻的元素。如果第一个比第二个大,就交换它们两个;
- 对每一对相邻元素作同样的工作,从开始第一对到结尾的最后一对,这样再最后的元素应该是最大的数;
- 针对所有的元素重复以上的步骤,除了最后一个;
- 重复步骤1~3,直到排序完成。
1.2 动图演示
1.3 代码实现
#include <bits/stdc++.h> // 万能头文件 包含了目前C++包含的所有头文件
using namespace std;
void buble_sort(vector<int> &arr, int len) {
int i = 0, j = 0;
for (i = 0; i < len - 1; i++) {
for (j = 0; j < len - 1 - i; j++) {
if (arr[j] > arr[j + 1]) {
swap(arr[j], arr[j + 1]);
}
}
}
return;
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
buble_sort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
2、选择排序(Selection Sort)
选择排序(Selection-sort)是一种简单直观的排序算法。工作原理:首先在未排序序列中找到最小(大)元素,存放到排序序列的起始位置,然后,再从剩余未排序元素中继续寻找最小(大)元素,放到已排序序列的末尾。以此类推,直到所有元素均排序完毕。
2.1 算法描述
n个记录的直接选择排序可经过n-1趟直接选择排序得到有序结果。算法描述如下:
- 初始状态:无序区间R[1…n], 有序区间为空;
- 第i趟排序(i=1,2,3…n-1)开始时,当前有序区间和无序区间分别为R[1…i-1]和R[i…n]。该趟排序从当前无序区间中选出关键字最小的记录R[k],将它与无序区间的第1个记录R交换,使R[1…i]和R[i+1…n]分别变为记录个数增加1个的新有序区间和记录个数减少1个的新无序区间。
- n-1趟结束,数组有序化了。
2.2 动图演示
2.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void selection_sort(vector<int> &arr, int len) {
int i, j;
for (i = 0; i < len - 1; i++) {
int min = i;
for (j = i + 1; j < len; j++) {
if (arr[j] < arr[min]) // 找到目前的最小值
min = j; // 更新最小数索引
}
swap(arr[min], arr[i]);
}
return;
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
selection_sort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
2.4 算法分析
表现最稳定的排序算法之一,无论什么数据进去都是O(n^2)的时间复杂度,用这个算大的时候,规模越小越好。不占用额外的内存空间。选择排序是平时想到的最多的排序算法。
3、插入排序(Insertion Sort)
插入排序的算法描述是一种简单直观的排序算法。工作原理是:构建有序序列,对于未排序数据,在已排序序列中从后往前扫描,找到相应位置并插入。
3.1 算法描述
一般来说,插入排序都采用in-place在数组上实现。具体算法描述如下:
- 从第一个元素开始,该元素可以认为已经被排序;
- 取出下一个元素,在已经排序的元素序列中从后向前扫描;
- 如果该元素(已排序)大于新元素,将该元素移动到下一位置;
- 重复步骤3,直到找到已排序的元素小于或者等于新元素的位置;
- 将新元素插入到该位置后;
- 重复步骤2~5.
3.2 动图演示
3.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void insertion_sort(vector<int> &arr, int len) {
int i, j, temp;
for (i = 1; i < len; i++) {
temp = arr[i];
for (j = i; j > 0 && arr[j - 1] > temp; j--) {
arr[j] = arr[j - 1];
}
arr[j] = temp;
}
return;
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
insertion_sort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
4、希尔排序 (Shell Sort)
1959年Shell发明,第一个突破O(n^2)的排序算法,是简单插入排序的改进版。与插入排序的不同之处在于,会优先比较距离较远的元素。又叫缩小增量排序。
4.1 算法描述
先将整个待排序的记录序列分割成为若干个子序列分别进行直接插入排序,具体算法描述:
- 选择一个增量序列t1, t2, …,tk, 其中ti>tj,tk=1;
- 按增量序列个数k,对序列进行k趟排序;
- 每趟排序,根据对应的增量ti,将待排序列分割成若干个长度为m的子序列,分别对各子表进行直接插入排序。仅增量因子为1时,整个序列作为一个表来处理,表长度即为整个序列的长度。
4.2 动图演示
4.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void shell_sort(vector<int> &arr, int len) {
int gap, i, j;
int temp;
for (gap = len >> 1; gap > 0; gap = gap >> 1) {
for (i = gap; i < len; i++) {
temp = arr[i];
for (j = i - gap; j >= 0 && arr[j] > temp; j -= gap) {
arr[j + gap] = arr[j];
}
arr[j + gap] = temp;
}
}
return;
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
shell_sort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
5、归并排序(Merge Sort)
归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法的一个非常经典的应用。将已经有序的子序列合并,得到完全有序的序列;即先使每个子序列有序,再使子序列段间有序。若将两个有序表合并成一个有序表,称为2-路归并。
5.1 算法描述
- 把长度为n的输入序列分成两个长度为n/2的子序列;
- 对这两个子序列分别采用归并排序;
- 将两个排序好的子序列合并成一个最终的排序序列。
5.2 动图演示
5.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void merge(vector<int> &nums, int left, int mid, int right) {
vector<int> tmp(right - left + 1);
int i = left, j = mid + 1, k = 0;
while (i <= mid && j <= right) {
tmp[k++] = nums[i] < nums[j] ? nums[i++] : nums[j++];
}
while (i <= mid) tmp[k++] = nums[i++];
while (j <= right) tmp[k++] = nums[j++];
for (i = left, k = 0; i <= right;) nums[i++] = tmp[k++];
}
void merge_sort(vector<int> &nums, int left, int right) {
if (left >= right) return;
int mid = left + (right - left) / 2;
merge_sort(nums, left, mid);
merge_sort(nums, mid + 1, right);
merge(nums, left, mid, right);
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
merge_sort(arr, 0, len - 1);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
5.4 算法分析
归并排序是一种稳定的排序方法。和选择排序一样,归并排序的性能不受输入数据的影响,但表现比选择排序好的多,因为始终是O(nlogn)的时间复杂度。代价是需要额外的内存空间。
6、快速排序(Quick Sort)
快速排序的基本思想:通过一趟排序将待排记录分割成独立的两部分,其中一部分记录的关键字均比另一部分的关键字小,可分别对这俩部分记录继续进行排序,以达到整个序列有序。
6.1 算法描述
快速排序使用分治法把一个串(list)分为两个子串(sub-lists)。具体算法描述如下:
- 从数列中挑选一个元素,称为基准(pivot);
- 重新排序数列,所有元素比基准值小的摆放在基准前面,所有元素比基准值大的摆在基准值的后面(相同的数可以到任意一边)。在这个分区退出之后,该基准就处于数列的中间位置。这个称为分区(partition)操作;
- 递归地(recursive)把小于基准值元素的子数列和大于基准值元素的子数列排序。
6.2 动图演示
6.3 代码实现
#include <bits/stdc++.h>
using namespace std;
int random_partition(vector<int> &nums, int left, int right) {
int random_pivot_index = rand() % (right - left + 1) + left;
int pivot = nums[random_pivot_index];
swap(nums[random_pivot_index], nums[right]);
int i = left - 1;
for (int j = left; j < right; j++) {
if (nums[j] < pivot) {
i++;
swap(nums[i], nums[j]);
}
}
int pivot_index = i + 1;
swap(nums[pivot_index], nums[right]);
return pivot_index;
}
void quick_sort(vector<int> &nums, int left, int right) {
if (left < right) {
int pivot_index = random_partition(nums, left, right);
quick_sort(nums, left, pivot_index - 1);
quick_sort(nums, pivot_index + 1, right);
}
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
quick_sort(arr, 0, len - 1);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
7、堆排序(Heap Sort)
堆排序是指利用堆这种数据结构设计的一种排序算法。堆是一个近似完全二叉树的结构,并同时满足堆积的性质:即子结点的键值或索引总是小于(或者大于)它的父节点。
7.1 算法描述
- 将初始待排序关键字序列(R1, R2…Rn)构建成大顶堆,此堆为初始的无序区;
- 将堆顶元素R[1]与最后一个元素R[n]交换,此时得到新的无序区(R1, R2,…Rn-1)和新的有序区(Rn),且满足R[1,2…n-1]<=R[n];
- 由于交换后新的堆顶R[1]可能违反堆的性质,因此需要对当前无序区(R1,R2,…Rn-1)调整为新堆,然后再次将R[1]与无序区最后一个元素交换,得到新的无序区(R1,R2,…Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1,则整个排序过程完成。
7.2 动图演示
7.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void heapify(vector<int> &arr, int length, int i) {
int left = 2 * i + 1, right = 2 * i + 2;
int largest = i;
if (left < length && arr[left] > arr[largest]) {
largest = left;
}
if (right < length && arr[right] > arr[largest]) {
largest = right;
}
if (largest != i) {
int temp = arr[i]; arr[i] = arr[largest]; arr[largest] = temp;
heapify(arr, length, largest);
}
return;
}
void heap_sort(vector<int> &arr) {
if (arr.size() == 0) return;
int length = arr.size();
for (int i = length / 2 - 1; i >= 0; i--)
heapify(arr, length, i);
for (int i = length - 1; i >= 0; i--) {
int temp = arr[0]; arr[0] = arr[i]; arr[i] = temp;
heapify(arr, i, 0);
}
return;
}
// 直接调用优先队列
void heapSort(vector<int> & arr) {
priority_queue<int, vector<int>, greater<int>> q;
for (int i = 0; i < arr.size(); i++) {
q.push(arr[i]);
}
for (int i = 0; i < arr.size(); i++) {
arr[i] = q.top();
q.pop();
}
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
heap_sort(arr);
for (int i = 0; i < arr.size(); i++) {
cout << arr[i] << " ";
}
cout << endl;
arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
heapSort(arr);
for (int i = 0; i < arr.size(); i++) {
cout << arr[i] << " ";
}
return 0;
}
8、计数排序 (Counting Sort)
计数排序不是基于比较的排序算法,其核心在于将输入的数据值转化为键存储在额外开辟的数组空间中。作为一种线性时间复杂度的排序,计数排序要求输入的数据必须是有确定范围的整数。
8.1 算法描述
- 找出待排序数组中的最大和最小的元素;
- 统计数组中每个值为i的元素出现的次数,存入数组C的第i项;
- 对所有的计数累加(从C中的第一个元素开始,每一项和前一项相加);
- 反向填充目标数组:将每个元素i放在新数组的第C[i]项,每放一个元素就将C(i)减去1。
8.2 动图演示
8.3 代码实现
#include <bits/stdc++.h>
using namespace std;
int get_max(vector<int> &arr, int len) {
int max = arr[0];
for (int i = 1; i < len; i++) {
if (arr[i] > max) {
max = arr[i];
}
}
return max;
}
void count_sort(vector<int> &arr, int len) {
int m = get_max(arr, len);
int b[m + 1] = {0};
for (int i = 0; i < len; i++) b[arr[i]]++;
for (int i = 0, k = 0; i <= m || k < len; i++) {
while(b[i] > 0) {
arr[k++] = i;
b[i]--;
}
}
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
int len = arr.size();
count_sort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
8.4 算法分析
计数排序是一个稳定的排序算法。当输入元素是n个0到k之间的整数时,时间复杂度是O(n+k),空间复杂度也是O(n+k),其排序速度快于任何比较排序算法。当k不是很大且序列比较集中时,计数排序是一个很有效的排序算法。
9、桶排序(Bucket Sort)
桶排序是计数排序的升级版。利用了函数的映射关系,关键在于映射函数的确定。工作原理:假设输入数据服从均匀分布,将数据分到有限数量的桶里,每个桶再分别排序。
9.1 算法描述
- 设置一个定量的数组当作空桶;
- 遍历输入数据,并且把数据一个一个放到对应的桶里去;
- 对每个不是空的桶进行排序;
- 从不是空的桶里把排好序的数据拼接起来。
9.2 图片演示
9.3 代码实现
#include <bits/stdc++.h>
using namespace std;
template <typename T> void BucketSort(T *arr, const int len) {
if (arr == NULL) {
throw invalid_argument("Arrary must not be empty.");
}
if (len <= 0) return;
T maxV = arr[0];
for (int i = 0; i < len; ++i) {
if (arr[i] > maxV)
maxV = arr[i];
}
int tempArrlen = maxV + 1;
T tempArr[tempArrlen] = {0};
for (int i = 0; i < len; ++i) {
tempArr[arr[i]]++;
}
for (int i = 0, j = 0; i < tempArrlen; ++i) {
while (tempArr[i] != 0) {
arr[j++] = i;
tempArr[i]--;
}
}
}
int main() {
int arr[] = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
const int len = sizeof(arr) / sizeof(arr[0]);
BucketSort(arr, len);
for (int i = 0; i < len; i++) {
cout << arr[i] << " ";
}
return 0;
}
9.4 算法分析
桶排序最好情况下的线性时间O(n),时间复杂度取决于对各个桶之间数据进行排序的时间复杂度,因为其他部分的时间复杂度为O(n)。桶划分越小,排序所用时间越少,相应的空间消耗就会增大。
10、基数排序 (Radix Sort)
基数排序是按照低位先排序,然后收集;再按照高位排序,然后再收集;依次类推,直到最高位。有时候有些属性是有优先级顺序的,先按低优先级排序,再按高优先级排序。最后的次序就是高优先级高的在前,高优先级相同的低优先级高的在前。
10.1 算法描述
- 取得数组中的最大数,并取得位数;
- arr为原始数组,从最低位开始取每个位组成radix数组;
- 对radix进行计数排序(利用计数排序适用于小范围数的特点)。
10.2 动图演示
10.3 代码实现
#include <bits/stdc++.h>
using namespace std;
void sort_radix(std::vector<int> &data)
{
// 思想:
// 使用了桶排序中桶的思想,但它比桶排序更精明,它只需要十个桶,因为他的排序思想是分别对元素中
// 的个位,十位,百位....进行排序.
// 也就是说,首先对所有数以个位数的大小进行排序,然后再对所有数以他们的十位数进行排序,依次类推.
// 在整个过程中会使得原始序列逐渐趋近有序,待将最高位排完之后完全有序.
// 想想为什么是从个位开始而不是从最高位开始呢,按道理从最高位开始的话每次都能得出一部分数的正确大小关系.
// 确实可以从最高位开始,而且可以减少比较次数,但是从最高位开始会有一个致命缺点,那就是在如果从高位开始,在对高位相同的
// 数继续排序时,又需要另外创建十个桶对他们排序,其实也就是说最终的结果就是真多每一个不同的元素都会为它创建一个桶,
// 如果待排序序列有10000个不同的元素,那么从高位开始比较的方法就需要创建10000个桶,而从个位开始比较的方法可以重复使用
// 那10个桶,如果序列个数更多那么这样的性能差异就更明显,所以虽然减少了比较次数但浪费了非常多的空间,得不偿失.
// 所以我们说基数排序的话都默认的是从个位开始比较的.
if(data.size() < 2)
{
return;
}
// 遍历待排序序列获取最大值,并计算出最大值的位数digits,这决定我们要循环排序的次数.
int length = static_cast<int>(data.size());
int max = data.at(0);
for(int i = 1; i < length; i++)
{
if(data.at(i) > max)
{
max = data.at(i);
}
}
// 计算最大值位数.
int digits = 1;
while(max/10 > 0)
{
++digits;
max /= 10;
}
// 创建10个桶,因为需要频繁地往桶里面插入元素,所以我们使用list容器,将十个桶放入vector中.
std::vector<std::list<int>> bucket_list;
bucket_list.resize(10);
// 从个位开始进行每一趟的排序,其实就是将待排序序列的元素放入当前排序位数
// (个/十/百...)数字对应的桶中.
for(int i = 1; i <= digits; i++)
{
for(int j = 0; j < length; j++)
{
// 计算出当前元素data.at(j)在本轮属于哪一个桶.
// pow()函数需要include<cmath>.
int radix = static_cast<int>(data.at(j)/pow(10,i-1)) % 10;
bucket_list.at(radix).push_back(data.at(j));
}
// 每完成一轮便将桶里的元素按顺序合并放入原序列.
int k = 0;
for(int n = 0; n < 10; n++)
{
for(auto value : bucket_list.at(n))
{
data.at(k++) = value;
}
// 同时需要将桶清空以便下一轮的排序.
bucket_list.at(n).clear();
}
}
}
int main() {
vector<int> arr = {22, 34, 3, 32, 82, 55, 89, 50, 37, 5, 64, 35, 9, 70};
sort_radix(arr);
for (int i = 0; i < arr.size(); i++) {
cout << arr[i] << " ";
}
return 0;
}
10.4 算法分析
基数排序基于分别排序,分别收集,所以是稳定的。但基数排序的性能比桶排序要略差,每一次关键字的桶分配都需要O(n)的时间复杂度,而且分配之后得到新的关键字序列又需要O(n)的时间复杂度。假如待排数据可以分为d个关键字,则基数排序的时间复杂度将是O(d*2n) ,当然d要远远小于n,因此基本上还是线性级别的。
基数排序的空间复杂度为O(n+k),其中k为桶的数量。一般来说n>>k,因此额外空间需要大概n个左右。
11、参考
- 【常见排序算法模板】https://blog.csdn.net/qq_37218447/article/details/105034735
- 【十大经典排序算法】https://www.cnblogs.com/onepixel/p/7674659.html
- 【C++模板实现常用排序算法】https://www.imooc.com/article/9429
- 【排序算法】https://blog.csdn.net/csdn_dzh/article/details/85039650