数据结构与算法笔记1(python)

数据结构与算法笔记1(python)

算法的提出

算法的概念

算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。

算法是独立存在的一种解决问题的方法和思想。

对于学习算法而言,重要的是思想,实现是其次的。

算法可以由多种不同的语言实现,如c/c++/java/python等,此笔记主要运用python来进行描述与实现。

在具体学习之前,我们可以通过一道简单的初中知识水平就能看懂的题目来给大家引入对算法这一概念的理解。

# 如果 a+b+c=N且 a^2+b^2=c^2(a,b,c 为自然数),如何求出所有a、b、c可能的组合?

import time

start_time = time.time()
for a in range(0,1001):
    for b in range(0,1001):
        for c in range(0,1001):
            if a + b + c == 1000 and a**2 + b**2 == c**2:
                print("a, b, c:%d, %d, %d" % (a, b, c))
end_time = time.time()
print("times:%d" % (end_time - start_time))
print("finished 0")

a, b, c:0, 500, 500
a, b, c:200, 375, 425
a, b, c:375, 200, 425
a, b, c:500, 0, 500
times:107
finished 0


# T = 1000 * 1000 * 1000 * 10
# T = N * N * N * 10
# T(n) = n ^ 3 * 10
#我们往往仅仅分析一个大概的特征,同一个数量级基本上可以约等于
#省略后
# T(n) = n ^ 3 * 2
#最终可认为时间复杂度为
# T(n) = O(n ^ 3)

start_time = time.time()
for a in range(0,1001):
    for b in range(0,1001):
        c = 1000 - a - b
        if a**2 + b**2 == c**2:
            print("a, b, c:%d, %d, %d" % (a, b, c))
end_time = time.time()
print("times:%d" % (end_time - start_time))
print("finished 1")

a, b, c:0, 500, 500
a, b, c:200, 375, 425
a, b, c:375, 200, 425
a, b, c:500, 0, 500
times:0
finished 1


# T(n) = O(n ^ 2)

# 每台机器执行的总时间不同
# 但是,执行基本运算数量大体相同
# 总体时间 = 每个步骤时间 * 步骤个数

通过两个代码的比较,我们可以明显的看出仅仅一个小小的改变,同一道题目的运行时间就能相差几个量级。因此对同一个问题算法的优化就显得十分必要了。

算法的五大特性

  1. 输入: 算法具有0个或多个输入
  2. 输出: 算法至少有1个或多个输出
  3. 有穷性: 算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
  4. 确定性:算法中的每一步都有确定的含义,不会出现二义性
  5. 可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成

算法效率衡量

执行时间反应算法效率

对于同一问题,我们给出了两种解决算法,在两种算法的实现中,我们对程序执行的时间进行了测算,发现两段程序执行的时间相差悬殊,由此我们可以得出结论:**实现算法程序的执行时间可以反应出算法的效率,即算法的优劣。**但是程序的运行离不开计算机环境(包括硬件和操作系统),这些客观原因会影响程序运行的速度并反应在程序的执行时间上。

注:单纯依靠运行的时间来比较算法的优劣并 不一定 是客观准确的!

假设我们将两个代码放到几十年前的古董电脑上运行,可能运行时间相差并不会很大。

时间复杂度与“大O记法”

我们假定计算机执行算法每一个基本操作的时间是固定的一个时间单位,那么有多少个基本操作就代表会花费多少时间单位。算然对于不同的机器环境而言,确切的单位时间是不同的,但是对于算法进行多少个基本操作(即花费多少时间单位)在规模数量级上却是相同的,由此可以忽略机器环境的影响而客观的反应算法的时间效率。

对于算法的时间效率,我们可以用“大O记法”来表示。

“大O记法”:对于单调的整数函数f,如果存在一个整数函数g和实常数c>0,使得对于充分大的n总有f(n)<=c*g(n),就说函数g是f的一个渐近函数(忽略常数),记为f(n)=O(g(n))。也就是说,在趋向无穷的极限意义下,函数f的增长速度受到函数g的约束,亦即函数f与函数g的特征相似。

时间复杂度:假设存在函数g,使得算法A处理规模为n的问题示例所用时间为T(n)=O(g(n)),则称O(g(n))为算法A的渐近时间复杂度,简称时间复杂度,记为T(n)

如何理解“大O记法”

对于算法的时间性质和空间性质,最重要的是其数量级和趋势。而计量算法基本操作数量的规模函数中那些常量因子可以忽略不计。例如,可以认为3*n2和100*n2属于同一个量级,如果两个算法处理同样规模实例的代价分别为这两个函数,就认为它们的效率“差不多”,都为n^2级。

最坏时间复杂度

分析算法时,存在几种可能的考虑:

  • 算法完成工作最少需要多少基本操作,即最优时间复杂度
  • 算法完成工作最多需要多少基本操作,即最坏时间复杂度
  • 算法完成工作平均需要多少基本操作,即平均时间复杂度

对于最优时间复杂度,其价值不大,因为它没有提供什么有用信息,其反映的只是最乐观最理想的情况,没有参考价值。

对于最坏时间复杂度,提供了一种保证,表明算法在此种程度的基本操作中一定能完成工作。

对于平均时间复杂度,是对算法的一个全面评价,因此它完整全面的反映了这个算法的性质。但另一方面,这种衡量并没有保证,不是每个计算都能在这个基本操作内完成。而且,对于平均情况的计算,也会因为应用算法的实例分布可能并不均匀而难以计算。

因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度。

时间复杂度的几条基本计算规则

  1. 基本操作,即只有常数项,认为其时间复杂度为O(1)
  2. 顺序结构,时间复杂度按加法进行计算
  3. 循环结构,时间复杂度按乘法进行计算
  4. 分支结构,时间复杂度取最大值
  5. 判断一个算法的效率时,往往只需要关注操作数量的最高次项,其它次要项和常数项可以忽略
  6. 在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复杂度

现在,我们可以通过以上概念对我们的两个代码进行分析

代码一:

for a in range(0,1001):
    for b in range(0,1001):
        for c in range(0,1001):
            if a + b + c == 1000 and a**2 + b**2 == c**2:
                print("a, b, c:%d, %d, %d" % (a, b, c))

其时间复杂度为:T(n) = O(n * n * n) = O(n^3)

代码二:

for a in range(0, 1001):
    for b in range(0, 1001):
        c = 1000 - a - b
        if a**2 + b**2 == c**2:
            print("a, b, c: %d, %d, %d" % (a, b, c))

其时间复杂度为:T(n) = O(n * n * (1+1) ) = O(n * n) = O(n^2)

由此可见,我们尝试的第二种算法要比第一种算法的时间复杂度好多的。

常见时间复杂度

执行次数函数举例非正式术语
12O(1)常数阶
2n+3O(n)线性阶
3n2+2n+1O(n2)平方阶
5log2n+20O(logn)对数阶
2n+3nlog2n+19O(nlogn)nlogn阶
6n3+2n2+3n+4O(n3)立方阶
2nO(2n)指数阶

注意,经常将log2n(以2为底的对数)简写成logn

常见时间复杂度之间的关系

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZOSvmkPj-1634550533157)(file:///C:/Users/%E5%BC%A0%E6%99%A8%E6%9B%A6/Desktop/%E6%95%B0%E6%8D%AE%E7%BB%93%E6%9E%84%E9%A2%84%E7%AE%97%E6%B3%95%E8%AF%BE%E4%BB%B6/images/算法效率关系.bmp)]

所消耗的时间从小到大:

O(1) < O(logn) < O(n) < O(nlogn) < O(n2) < O(n3) < O(2n) < O(n!) < O(nn)

Python内置类型性能分析

timeit模块

timeit模块可以用来测试一小段Python代码的执行速度。

class timeit.Timer(stmt = ‘pass’, setup = ‘pass’ , timer = < timer function >)

Timer是测量小段代码执行速度的类。

stmt参数是要测试的代码语句(statment);

setup参数是运行代码时需要的设置;

timer参数是一个定时器函数,与平台有关。

timeit.Timer.timeit(number=1000000)

Timer类中测试语句执行速度的对象方法。number参数是测试代码时的测试次数,默认为1000000次。方法返回执行代码的平均耗时,一个float类型的秒数。

list的操作测试

from timeit import Timer
# li1 = [1, 2]
# li2 = [23,5]
# li = li1+li2
# li = [i for i in range(10000)]
# li = list(range(10000))

# def t1():
#     li = []
#     for i in range(10000):
#         li.append(i)
#
# def t2():
#     li = []
#     for i in range(10000):
#         li = li + [i]
#         # li += [i]
#
# def t3():
#     li = [i for i in range(10000)]
#
# def t4():
#     li = list(range(10000))
#
# def t5():
#     li = []
#     for i in range(10000):
#         li.extend([i])
#
# timer1 = Timer("t1()", "from __main__ import t1")
# print("append:", timer1.timeit(1000))
#
# timer2 = Timer("t2()", "from __main__ import t2")
# print("+:", timer2.timeit(1000))
#
# timer3 = Timer("t3()", "from __main__ import t3")
# print("[i for i in range]:", timer3.timeit(1000))
#
# timer4 = Timer("t4()", "from __main__ import t4")
# print("list(range()):", timer4.timeit(1000))
#
# timer5 = Timer("t5()", "from __main__ import t5")
# print("extend:", timer5.timeit(1000))

# append: 0.5859431
# +: 151.9984935
# [i for i in range]: 0.2666621000000191
# list(range()): 0.11709400000000869
# extend: 0.8316012999999884

def t6():
    li = []
    for i in range(10000):
        li.append(i)

def t7():
    li = []
    for i in range(10000):
        li.insert(0, i)


timer6 = Timer("t6()", "from __main__ import t6")
print("append", timer6.timeit(1000))

timer7 = Timer("t7()", "from __main__ import t7")
print("insert(0)", timer7.timeit(1000))

# append 0.6039895000000001
# insert(0) 21.2750359

pop操作测试

x = range(2000000)
pop_zero = Timer("x.pop(0)","from __main__ import x")
print("pop_zero ",pop_zero.timeit(number=1000), "seconds")
x = range(2000000)
pop_end = Timer("x.pop()","from __main__ import x")
print("pop_end ",pop_end.timeit(number=1000), "seconds")

# ('pop_zero ', 1.9101738929748535, 'seconds')
# ('pop_end ', 0.00023603439331054688, 'seconds')

从结果可以看出,pop最后一个元素的效率远远高于pop第一个元素

list内置操作的时间复杂度

在这里插入图片描述

dict内置操作的时间复杂度

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值