目录
前言
之前都是讲的数据结构部分,这里开始讲算法部分。
排序与搜索
排序算法的稳定性
稳定性:稳定排序算法会让原本有相等键值的纪录维持相对次序。也就是如果一个排序算法是稳定的,当有两个相等键值的纪录R和S,且在原本的列表中R出现在S之前,在排序过的列表中R也将会是在S之前。
当相等的元素是无法分辨的,比如像是整数,稳定性并不是一个问题。然而,假设以下的数对将要以他们的第一个数字来排序。
(4, 1) (3, 1) (3, 7)(5, 6)
在这个状况下,有可能产生两种不同的结果,一个是让相等键值的纪录维持相对的次序,而另外一个则没有:
(3, 1) (3, 7) (4, 1) (5, 6) (维持次序) (3, 1) 在(3, 7)之前,和原始的顺序一样, 这是稳定的
(3, 7) (3, 1) (4, 1) (5, 6) (次序被改变)
不稳定排序算法可能会在相等的键值中改变纪录的相对次序,但是稳定排序算法从来不会如此。不稳定排序算法可以被特别地实现为稳定。作这件事情的一个方式是人工扩充键值的比较,如此在其他方面相同键值的两个对象间之比较,(比如上面的比较中加入第二个标准:第二个键值的大小)就会被决定使用在原先数据次序中的条目,当作一个同分决赛。然而,要记住这种次序通常牵涉到额外的空间负担。
一、 冒泡排序
分析与实现
交换过程图示(第一次):
那么我们需要进行n-1次冒泡过程,每次对应的比较次数如下图所示:
排序关注的是算法,这里用顺序表。也可以用链表,因为链表本事也是线性表。
顺序表,交换的时候,交换的只是两个位置保存的数据,
而链表交换的是两个结点,复杂在于,链接区需要重新指定排布。
# coding :utf-8
def bubble_sort(alist):
"""冒泡排序"""
n = len(alist)
for j in range(n-1):
for i in range(0, n-1-j):
# 从头走到尾
if alist[i] > alist[i+1]:
alist[i], alist[i+1] = alist[i+1], alist[i]
为了好理解,将上面代码改为下面的代码:
# coding :utf-8
def bubble_sort(alist):
"""冒泡排序"""
n = len(alist)
for j in range(n-1,0,-1):
# j表示每次遍历需要比较的次数,是逐渐减小的
count = 0
for i in range(j):
# 班长从头走到尾
if alist[i] > alist[i+1]:
alist[i], alist[i+1] = alist[i+1], alist[i]
count += 1
if 0 == count:
return
if __name__ == "__main__":
li = [54,26,93,17,77,31,44,55,20]
print(li)
bubble_sort(li)
print(li)
优化代码如下:
# coding :utf-8
def bubble_sort(alist):
"""冒泡排序"""
n = len(alist)
for j in range(n-1):
conut = 0
for i in range(0, n-1-j):
# 从头走到尾
if alist[i] > alist[i+1]:
alist[i], alist[i+1] = alist[i+1], alist[i]
count += 1
if 0 == count:
return
时间复杂度
最优时间复杂度:O(n) (表示遍历一次发现没有任何可以交换的元素,排序结束。)
最坏时间复杂度:O(n2)
稳定性:稳定
二、选择排序
概念
选择排序(Selection sort)是一种简单直观的排序算法。它的工作原理如下。首先在未排序序列中找到最小(大)元素,存放到排序序列的起始位置,然后,再从剩余未排序元素中继续寻找最小(大)元素,然后放到已排序序列的末尾。以此类推,直到所有元素均排序完毕。
选择排序的主要优点与数据移动有关。如果某个元素位于正确的最终位置上,则它不会被移动。选择排序每次交换一对元素,它们当中至少有一个将被移到其最终位置上,因此对n个元素的表进行排序总共进行至多n-1次交换。在所有的完全依靠交换去移动元素的排序方法中,选择排序属于非常好的一种。
分析与实现
分析:
alist = [54, 226, 93, 17, 77, 31, 44, 55, 20]
0 1 2 3 4 5 6 7 8
min = 0
alist[0], alist[3] = alist[3], alist[0]
alist = [17, 226, 93, 54, 77, 31, 44, 55, 20]
min = 8
alist[1], alist[8] = alist[8], alist[1]
alist = [17, 20, 93, 54, 77, 31, 44, 55, 226]
min = 5
alist = [17, 20, 31, 54, 77, 93, 44, 55, 226]
选择排序,前部分:有序;后部分:无序。
始终从后面无序中进行排序,将最小/大的元素找出添加到前部分的有序中。
实现代码
第一种写法:
def select_sort(alist):
"""选择排序"""
n = len(alist)
# 需要进行n-1次选择操作
for j in range(n-1): # j: 0 ~ n-2
min_index = j # 记录最小位置
# 从j+1位置到末尾选择出最小数据
for i in range(j+1, n):
if alist[min_index] > alist[i]:
min_index = i
alist[j], alist[min_index] = alist[min_index], alist[j]
if __name__ == "__main__":
alist = [54,226,93,17,77,31,44,55,20]
selection_sort(alist)
print(alist)
def select_sort(alist):
n = len(alist)
# 需要进行n-1次选择操作
for i in range(n-1):
# 记录最小位置
min_index = i
# 从i+1位置到末尾选择出最小数据
for j in range(i+1, n):
if alist[j] < alist[min_index]:
min_index = j
# 如果选择出的数据不在正确位置,进行交换
if min_index != i:
alist[i], alist[min_index] = alist[min_index], alist[i]
alist = [54,226,93,17,77,31,44,55,20]
select_sort(alist)
print(alist)
时间复杂度
最优时间复杂度:O(n2)
最坏时间复杂度:O(n2)
稳定性:不稳定(考虑升序每次选择最大的情况)
三、插入算法
概念
将序列视为两部分,一部分是有序的,一部分是无序的。
插入排序(英语:Insertion Sort)是一种简单直观的排序算法。它的工作原理是通过构建有序序列,对于未排序数据,在已排序序列中从后向前扫描,找到相应位置并插入。插入排序在实现上,在从后向前扫描过程中,需要反复把已排序元素逐步向后挪位,为最新元素提供插入空间。
一开始将第一个元素视为有序的。拿后面的无序序列的第一个元素与前面的有序序列进行比较。将前面的最有一个元素往前比较。
选择排序思想:把序列分为两部分,有序和无序,一开始认为左边是有序的,然后将右边无序的元素中选择出最小的拿到前面有序的中去。(操作的是右边的无序数据)
插入排序思想:把序列分为两部分,有序和无序,一开始认为左边是有序的,然后将右边无序的第一个元素去和左边的元素比较(从右往左),插入到指定的位置。(操作的是左边的有序数据,从右往左判断)
分析与实现
分析
alist = [93, 54, 77, 44, 55, 226]
alist = [54,93, 77, 44, 55, 226]
alist = [54,77, 93, 44, 55, 226]
alist = [44, 54,77, 93, 55, 226]
alist = [44, 54,55, 77, 93, 226]
alist = [44, 54,55, 77, 93, 226 ]
实现
方法1
# O(n^2)
def insert_sort(alist):
"""插入排序"""
n = len(alist)
# 从右边的无序序列中取出多少个元素执行这样的过程
for j in range(1, n): # O(n)
# i代表内层循环起始值
i = j
# 执行从右边的无序序列中取出第一元素,即i位置的元素,然后将器插入到前面的正确位置中
while i>0 : # O(n)
if alist[i] < alist[i-1]:
alist[i], alist[i-1] = alist[i-1], alist[i]
i -= 1
# 下面的else算是对代码的优化,提升最优时间复杂度O(1),没有else的话是O(n)
else:
break
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
insert_sort(alist)
print(alist)
方法2:
def insert_sort(alist):
"""插入排序"""
# 从第二个位置,即下标为1的元素开始向前插入
for i in range(1, len(alist)):
# 从第i个元素开始向前比较,如果小于前一个元素,交换位置
for j in range(i, 0, -1):
if alist[j] < alist[j-1]:
alist[j], alist[j-1] = alist[j-1], alist[j]
else:
# alist[j] >= alist[j-1] 跳出此循环,原因是前面是有序的,从小到大排好了
break
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
insert_sort(alist)
print(alist)
时间复杂度
最优时间复杂度:O(n) (升序排列,序列已经处于升序状态),加else部分的提升
最坏时间复杂度:O(n2)
稳定性:稳定
四、希尔排序
分析
希尔排序实际上就是对插入排序的一个改进版。
alist = [54,26,93,17,77,31,44,55,20]
将原有一个序列,分为几个序列。每个子序列按照插入去做。
常见排序算法效率比较
实现
def shell_sort(alist):
"""希尔排序"""
n = len(alist)
gap = n // 2 # 注意python3
# gap变化到0之前,插入算法执行的次数
while gap>0:
# 此插入算法,与普通的插入算法的区别就是gap
for j in range(gap, n):
# j : [gap, gap+1, gap+2, ...., n-1]
i = j
while i>0:
if alist[i] < alist[i-gap]:
alist[i], alist[i-gap] = alist[i-gap], alist[i]
i -= gap
else:
break
# 缩短gap步长
gap //= 2
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
shell_sort(alist)
print(alist)
方法二:
def shell_sort(alist):
n = len(alist)
# 初始步长
gap = n / 2
while gap > 0:
# 按步长进行插入排序
for i in range(gap, n):
j = i
# 插入排序
while j>=gap and alist[j-gap] > alist[j]:
alist[j-gap], alist[j] = alist[j], alist[j-gap]
j -= gap
# 得到新的步长
gap = gap / 2
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
shell_sort(alist)
print(alist)
时间复杂度
最优时间复杂度:根据步长序列的不同而不同
最坏时间复杂度:O(n2)
稳定想:不稳定
五、快速排序
重点:递归嵌套。 – 函数调用函数自身
概念
快速排序(英语:Quicksort),又称划分交换排序(partition-exchange sort),通过一趟排序将要排序的数据分割成独立的两部分,其中一部分的所有数据都比另外一部分的所有数据都要小,然后再按此方法对这两部分数据分别进行快速排序,整个排序过程可以递归进行,以此达到整个数据变成有序序列。
步骤:
- 从数列中挑出一个元素,称为"基准"(pivot);
- 重新排序数列,所有元素比基准值小的摆放在基准前面,所有元素比基准值大的摆在基准的后面(相同的数可以到任一边)。在这个分区结束之后,该基准就处于数列的中间位置。这个称为分区(partition)操作;
- 递归地(recursive)把小于基准值元素的子数列和大于基准值元素的子数列排序。
递归的最底部情形,是数列的大小是零或一,也就是永远都已经被排序好了。虽然一直递归下去,但是这个算法总会结束,因为在每次的迭代(iteration)中,它至少会把一个元素摆到它最后的位置去。
分析
两个游标。
快速排序的分析
low这个游标从左向右走过的位置都比第一个元素小,high从右向左走,走过的位置都比第一个元素的大,然后交换位置,然后继续向中间移动,一直到两个游标在一个位置。下面再重复这样的环节。
第一轮之后:
54 26 20 17 44 54
开始
先让high游标向左走。
此时,high与low位置重合,中间值(原始的第一个元素的位置就在这个重合的位置)下面按上面的继续重复操作。
# coding:utf-8
def quick_sort(alist, first, last):
"""快速排序"""
# 递归的退出条件
if first >= last:
return
mid_valus = alist[first]
low = first
high = last
while low < high:
# 让high游标左移,# 遇到等于的情况,就读放在右边处理,也就是high继续向左走
while low < high and alist[high] >= mid_value:
high -= 1
alist[low] = alist[high]
# low游标右移
while low < high and alist[low] < mid_value:
low += 1
alist[high] = alist[low]
# 退出循环后,low与high重合,此时所指位置为基准元素的正确位置, 将基准元素放到该位置
alist[low] = mid_value # alist[high] = mid_value
# 递归执行
# 对基准元素(low)左边的子序列进行快速排序
quick_sort(alist, 0, low-1)
# 对基准元素(low)右边的子序列进行快速排序
quick_sort(alist, low+1, last)
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
quick_sort(alist)
print(alist)
# coding:utf-8
def quick_sort(alist, start, end):
"""快速排序"""
# 递归的退出条件
if start >= end:
return
# 设定起始元素为要寻找位置的基准元素
mid = alist[start]
# low为序列左边的由左向右移动的游标
low = start
# high为序列右边的由右向左移动的游标
high = end
while low < high:
# 如果low与high未重合,high指向的元素不比基准元素小,则high向左移动
while low < high and alist[high] >= mid:
high -= 1
# 将high指向的元素放到low的位置上
alist[low] = alist[high]
# 如果low与high未重合,low指向的元素比基准元素小,则low向右移动
while low < high and alist[low] < mid:
low += 1
# 将low指向的元素放到high的位置上
alist[high] = alist[low]
# 退出循环后,low与high重合,此时所指位置为基准元素的正确位置
# 将基准元素放到该位置
alist[low] = mid
# 对基准元素左边的子序列进行快速排序
quick_sort(alist, start, low-1)
# 对基准元素右边的子序列进行快速排序
quick_sort(alist, low+1, end)
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
quick_sort(alist,0,len(alist)-1)
print(alist)
时间复杂度
最优时间复杂度:O(nlogn)
最坏时间复杂度:O(n2)
稳定性:不稳定
从一开始快速排序平均需要花费O(n log n)时间的描述并不明显。但是不难观察到的是分区运算,数组的元素都会在每次循环中走访过一次,使用O(n)的时间。在使用结合(concatenation)的版本中,这项运算也是O(n)。
在最好的情况,每次我们运行一次分区,我们会把一个数列分为两个几近相等的片段。这个意思就是每次递归调用处理一半大小的数列。因此,在到达大小为一的数列前,我们只要作log n次嵌套的调用。这个意思就是调用树的深度是O(logn)。但是在同一层次结构的两个程序调用中,不会处理到原来数列的相同部分;因此,程序调用的每一层次结构总共全部仅需要O(n)的时间(每个调用有某些共同的额外耗费,但是因为在每一层次结构仅仅只有O(n)个调用,这些被归纳在O(n)系数中)。结果是这个算法仅需使用O(nlogn)时间。
六、归并排序
归并排序是采用分治法的一个非常典型的应用。归并排序的思想就是先递归分解数组,再合并数组。
将数组分解最小之后,然后合并两个有序数组,基本思路是比较两个数组的最前面的数,谁小就先取谁,取了后相应的指针就往后移一位。然后再比较,直至一个数组为空,最后把另一个数组的剩余部分复制过来即可。
把整个序列进行拆分,拆分后对两边再进行拆分,
拆分:
合并
递归实现:
def merge_sort(alist):
"""归并排序"""
n = len(alist)
if n<= 1:
return alist
# 拆分(二分分解)
mid = n//2 # python3
# 传入的是新的列表,也就是子序列,而排序传的是自身(原始序列)
left_li = merge_sort(alist[:mid]) # left 采用归并排序后形成的有序的新的列表
right_li = merge_sort(alist[mid:]) # right 采用归并排序后形成的有序的新的列表
# 合并(将两个有序的子序列合并成一个整体)
# merge(left, right)
left_pointer, right_pointer = 0, 0
result = []
while left_pointer<len(left_li) and right_pointer<len(right_li):
if left_li[left_pointer] <= right_li[right_pointer]:
result.append(left_li[left_pointer])
left_pointer += 1
else:
result.append(right_li[right_pointer])
right_pointer += 1
# 如果是走到头之后的列表,就是空列表
result += left_li[left_pointer:]
result += right_li[right_pointer:]
return result
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
sorted_alist = mergeSort(alist)
print(sorted_alist)
运行结果:
说明: 改变的不是原始列表,而是产生一个新的列表。
可以将上面的代码改为下面的代码,也就是模块化:
def merge_sort(alist):
"""归并排序"""
if len(alist) <= 1:
return alist
# 二分分解
num = len(alist)/2
left = merge_sort(alist[:num])
right = merge_sort(alist[num:])
# 合并
return merge(left,right)
def merge(left, right):
'''合并操作,将两个有序数组left[]和right[]合并成一个大的有序数组'''
#left与right的下标指针
l, r = 0, 0
result = []
while l<len(left) and r<len(right):
if left[l] <= right[r]:
result.append(left[l])
l += 1
else:
result.append(right[r])
r += 1
result += left[l:]
result += right[r:]
return result
if __name__ == "__main__":
alist = [54,26,93,17,77,31,44,55,20]
sorted_alist = mergeSort(alist)
print(sorted_alist)
时间复杂度
最优时间复杂度:O(nlogn)
最坏时间复杂度:O(nlogn)
稳定性:稳定
常见排序算法效率比较
堆排序 对应的是二叉树。
归并排序,相比之前的排序,时间复杂度小,但是空间上大了。
必须掌握快速排序,不需要额外空间,归并排序增加了额外空间。
七、搜索
搜索就是在某个序列中找到某个元素。
搜索是在一个项目集合中找到一个特定项目的算法过程。搜索通常的答案是真的或假的,因为该项目是否存在。 搜索的几种常见方法:顺序查找、二分法查找、二叉树查找、哈希查找。
二分查找
二分查找又称折半查找,优点是比较次数少,查找速度快,平均性能好;其缺点是要求待查表为有序表,且插入删除困难。因此,折半查找方法适用于不经常变动而查找频繁的有序列表。首先,假设表中元素是按升序排列,将表中间位置记录的关键字与查找关键字比较,如果两者相等,则查找成功;否则利用中间位置记录将表分成前、后两个子表,如果中间位置记录的关键字大于查找关键字,则进一步查找前一子表,否则进一步查找后一子表。重复以上过程,直到找到满足条件的记录,使查找成功,或直到子表不存在为止,此时查找不成功。
只能作用有顺序的顺序表,不能支持链表。
计算中间坐标,关注起始和终止位置。
二分查找条件:
- 必须有序(已经排过序的);
- 只支持下标索引,也就是支持顺序,不支持链表。
二分法查找实现
递归实现: 不需要在原有序列中递归
def binary_search(alist, item):
"""二分排序:递归"""
n = len(alist)
if n>0:
mid = n//2
if alist[mid] == item:
return True
elif item < alist[mid]:
return binary_search(alist[:mid], item)
else:
return binary_search(alist[mid+1:], item)
return False
if __name__ == "__main__":
testlist = [0, 1, 2, 8, 13, 17, 19, 32, 42,]
print(binary_search(testlist, 3))
print(binary_search(testlist, 13))
(非递归实现):原列表上查找
def binary_search_2(alist, item):
"""二分排序,非递归"""
first = 0
last = len(alist)-1
while first<=last:
mid = (first + last)//2
if alist[midpoint] == item:
return True
elif item < alist[midpoint]:
last = midpoint-1
else:
first = midpoint+1
return False
if __name__ == "__main__":
testlist = [0, 1, 2, 8, 13, 17, 19, 32, 42,]
print(binary_search_2(testlist, 3))
print(binary_search_2(testlist, 13))
二分查找时间复杂度
最优时间复杂度:O(1)
最坏时间复杂度:O(logn)
遍历查找
最优时间复杂度:O(1)
最坏时间复杂度:O(n)