算法的概念和特性
算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。
算法是独立存在的一种解决问题的方法和思想。
对于算法而言,实现的语言并不重要,重要的是思想。
算法可以有不同的语言描述实现版本(如C描述、C++描述、Python描述等),我们现在是在用Python语言进行描述实现。
算法具有五大特性:
- 输入: 算法具有0个或多个输入
- 输出: 算法至少有1个或多个输出
- 有穷性: 算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
- 确定性:算法中的每一步都有确定的含义,不会出现二义性
- 可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成
算法效率的衡量
由于不同的计算机性能不同,所以用算法进行的基本操作的数量来衡量算法的效率
举一个例子,观察如下的代码,解方程a+b+c=1000;a^2 +b^2 = c^2
for a in range(1001):
for b in range(1001):
for c in range(1001):
if a + b + c == 1000 and a ** 2 + b ** 2 == c ** 2:
print(a, b, c)
这个代码执行最外层的循环需要1000步,第二层的循环需要1000步,第三层的循环需要1000步,最内层循环内部的代码粗略地算作2步,这个程序执行的总步骤数设为T1
,则T1 = 1000 ^ 3 * 2
;如果把条件改为a+b+c=2000
,则总步骤数为T2=2000^3*2
.如果把数据的规模设为n,则步骤数可以表示为T(n) = n ^ 3 * 2
,这个步骤数称为时间复杂度.由于后面的系数对这个函数的走势没有特别大的影响,所以一般取最核心的部分,例如上面的T(n)
可以简化为G(n)=n^3
.
算法完成工作最少需要多少基本操作,即最优时间复杂度;算法完成工作最多需要多少基本操作,即最坏时间复杂度;算法完成工作平均需要多少基本操作,即平均时间复杂度.因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度.
时间复杂度有几条计算规则:
- 基本操作,即只有常数项,认为其时间复杂度为O(1)
- 顺序结构,时间复杂度按加法进行计算
- 循环结构,时间复杂度按乘法进行计算
- 分支结构,时间复杂度取最大值
- 判断一个算法的效率时,往往只需要关注操作数量的最高次项,其它次要项和常数项可以忽略
- 在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复杂度
下面引进一些常见的时间复杂度:
执行次数函数举例 | 阶 | 非正式术语 |
---|---|---|
12 | O(1) | 常数阶 |
2n+3 | O(n) | 线性阶 |
3n2+2n+1 | O(n2) | 平方阶 |
5log2(n)+20 | O(log(n)) | 对数阶 |
2n+3nlog(2n)+19 | O(n*log(n)) | nlogn阶 |
6n3+2n2+3n+4 | O(n3) | 立方阶 |
2n | O(2n) | 指数阶 |
注意,经常将log2n(以2为底的对数)简写成logn
常见时间复杂度之间的关系
所消耗的时间从小到大
O(1) < O(log(n)) < O(n) < O(n*log(n)) < O(n2)<O(n2log(n)) < O(n3) < O(2n) < O(n!) < O(nn)
Python内置性能分析
timeit
模块可以用来测试一小段Python代码的执行速度。
class timeit.Timer(stmt=‘pass’, setup=‘pass’, timer=<timer function>)
Timer
是测量小段代码执行速度的类。stmt
参数是要测试的代码语句(statment
),是一个字符串;setup
参数是运行代码时需要的设置;timer
参数是一个定时器函数,与平台有关。
timeit.Timer.timeit(number=1000000)
Timer类中测试语句执行速度的对象方法。number参数是测试代码时的测试次数,默认为1000000次。方法返回执行代码的平均耗时,一个float类型的秒数。
示例:比较推导式创建列表和加号创建列表的速度
from timeit import Timer
def t1():
l = [i for i in range(1000)]
def t2():
l = []
for i in range(1000):
l = l + [i]
test1 = Timer('t1()', 'from __main__ import t1')
test2 = Timer('t2()', 'from __main__ import t2')
print(f'推导式花费{test1.timeit(number=1000)}秒')
print(f'for循环花费{test2.timeit(number=1000)}秒')
输出结果
推导式花费0.028509700000000027秒
for循环花费1.6175822秒
下面介绍字典和列表操作的时间复杂度
上图是列表内置操作的时间复杂度(设某个列表名为list,时间复杂度均指最坏时间复杂度):
indexx[]
指定一个位置取出元素(如list[2],取出第三个元素):时间复杂度O(1)
index assignment
给指定位置的元素复制(如list[2]=3):时间复杂度O(1)
append
在尾部添加元素:时间复杂度O(1)
pop()
从尾部弹出元素:时间复杂度O(1)
pop(i)
弹出第i个元素:步骤数n,最坏的情况,如果i代表列表第一个元素,从最后一个元素一直取到第一个元素,那么时间复杂度为O(n)
insert(i,item)
在指定位置插入元素:时间复杂度为O(n),如果列表长度是n,在头部插入一个元素,首先n个元素往后挪动一位,然后在头部插入元素,总步骤数是n+1,所以时间复杂度是O(n)
del operator
:时间复杂度为O(n),代表逐个删除列表中的元素
iteration
迭代操作:时间复杂度为O(n)
contains(in)
判断某个元素是否在列表中,如3 in list
:如果需要遍历列表,则时间复杂度为O(n)
get slice[x:y]
代表取切片,从x开始取,取到y的前一个元素:x和y之间有k个元素,时间复杂度为O(k)
del slice[x:y]
代表删除切片:假设删除第一个元素,则后面的元素全部都要往前挪一位,时间复杂度为O(n)
set slice
代表设置切片:时间复杂度为O(n+k),k代表补充列表的长度
举例:
list1 = [1, 2, 3]
list1[0:3] = [4, 5, 6]
print(list1)
输出结果
[4, 5, 6]
这个例子首先删掉了list1
中的3个元素,然后将4,5,6补充到list1
中,用n代表原列表的长度,k代表补充列表的长度,则时间复杂度为n+k
reverse
代表逆序取出列表中的元素:时间复杂度为O(n)
concatenate
代表将两个列表加到一起:设列表1为list1
,列表2为list2
,将list2
的k个元素放在list1
的尾部,且list2
的长度为k,则时间复杂度为O(k)
sort
代表排序操作:时间复杂度为O(nlogn)
multiply
代表列表的乘法操作
举例:
list1 = [1, 2]
list2 = list1 * 3
print(list2)
输出结果
[1, 2, 1, 2, 1, 2]
假设原列表的长为n,乘以系数k,则时间复杂度为O(nk)
以上内容的重点是索引indexx[]
,队尾添加append
,弹出pop(i)
,插入insert(i,item)
,查找contains(in)
上图是字典内置操作的时间复杂度
copy
代表复制字典,将字典中的所有元素复制一遍
get item
通过键取到值
set item
通过键设置值
delete item
通过键删除值
contains(in)
代表查找,因为键是唯一的,所以只需一步
iteration
代表迭代
数据结构引入
**数据结构就是一组数据的组织方式,程序=数据结构+算法
抽象数据类型(Abstract Data Type,ADT)是把数据类型和数据类型上的运算捆绑在一起进行封装,常用的数据运算有**插入,删除,修改,查找,排序