【笔记】第1章 绪论

已于 2022-02-16 16:42:21 修改
阅读量1.7k 收藏 13
点赞数 6
分类专栏： 数据结构与算法 文章标签： 递归法 递归算法 动态规划 算法 图灵机
于 2022-01-27 10:01:59 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43143469/article/details/122712624
版权

A. 计算

一、计算

  1. 计算
    · 对象：规律，技巧
    · 目标：高效，低耗
  2. computer science – computing science
  3. 例子
    · 绳索计算机：勾股定理找垂线
    · 尺规计算机：等分点—子程序

二、算法

1. 算法

  1. 计算 = 信息处理 = 借助某种工具，遵照一定规则，以明确而机械的形式进行
  2. 计算模型 = 计算机 = 信息处理工具
  3. 算法，即特定计算模型下，旨在解决特定问题的指令序列
    · 输入：待处理的信息（问题）
    · 输出：经处理的信息（答案）
    · 正确性
    · 确定性：任一算法都可以描述为一个由基本操作组成的序列
    · 可行性：每一基本操作都可实现，且在常数时间内完成
    · 有穷性

2. 有穷性

Hailstone
在这里插入图片描述

3. 好算法

  1. 特性：正确、健壮、可读、效率
  2. Algorithms + Data Structures = Programs
  3. （Algorithms + Data Structures）* Efficiency = Computation

三、作业

  1. Hailstone问题（又名3n+1问题）中Hailstone(n)的计算程序是：不能确定是否存在n，使程序无法终止
  2. 判断一个算法是否是一个“好算法”，最重要的一条性质是：efficiency 效率

B. 计算模型

一、 算法

1. 性能测度：measure

  • 引入理想、统一、分层次的尺度
  • 运用该尺度，以测量DSA的性质

2. 问题规模：划分等价类

  1. 算法分析的两个方面：正确、成本（运行时间 + 所需存储空间）
  2. TA§ = 算法A求解问题实例P的计算成本
  3. 归纳、概括 —— 划分等价类

3. 最坏情况

  1. 令TA(n) = 用算法A求解某一问题为n的实例，所需的计算成本
  2. T(n) = max { T§ | |p|=n}

4. 理想模型

  1. 不同的算法：规模、类型；同一算法：不同程序员、语言、编译器、体系结构、操作系统等
  2. 关键：抽象出一个理想的平台或模型

二、图灵机

在这里插入图片描述

  • 构成部件： Tape、 Alphabet、Head、State状态
  • 转换函数： Transition Function: (q, c; d, L/R, p)

三、RAM模型

  1. RAM（Random Access Machine）
    T(n) = 算法为求解规模为n的问题，所需执行的基本操作次数
  2. 例子Floor Division
    · 时间成本：各条指令执行次数之总和
    · 能够客观度量算法的执行时间

四、作业

  1. 以下哪项不是图灵机的组成要件？tape of finite length 有限长的纸带（作为一个理想计算模型，图灵机的纸带是两端无线延伸的无限长纸带）
  2. RAM模型与图灵机模型的区别在于图灵机的存储空间无限，而RAM的存储空间有限。False 错（RAM模型中寄存器的总数没有限制，它与图灵机是等价的）

C. 渐进复杂度

一、渐进分析-Big-O 记号

  1. 问题规模足够大之后，计算成本的增长趋势
  2. Big-O notation
    在这里插入图片描述

二、多项式

1. 求解问图

易解问题：线性（linear function）：所有O(n)类函数

  1. constant O(1)：不含转向（循环、调用、递归等），必顺序执行
  2. poly-log O(log c n) = O(n c)，c>0：复杂度无限接近于常数，对数底数、常底数、常数次幂无所谓
  3. polynomial O(n c)：多项式aknk + ak-1nk-1 + …… + a22 + a1n + a0 = O(nk)， ak > 0
    难解问题：指数
  4. exponential O(2n)：成本增长极快，从O(n c) 到 O(2n)，是从有效增长到无效增长的分水岭

2. 增长速度

在这里插入图片描述

3. 层次级别

在这里插入图片描述

三、作业

  1. 在大O记号的意义下，以下哪一项与O(m3)相等？(m不是常数) O(m3 + 2000n2 + 1000n)

D. 复杂度分析

一、级数

1. 算法分析

  • 主要任务：正确性（不变性 * 单调性） + 复杂度
  • 复杂度分析的主要方法：
    · 迭代：级数求和
    · 递归： 递归跟踪 + 递推方程
    · 实用：猜测 + 验证

2. 级数

  1. 算术级数：与末项平方同阶
  2. 幂方级数：比幂次高出一阶
  3. 几何级数：与末项同阶
  4. 收敛级数：O(1)
  5. 不收敛但有限：
    在这里插入图片描述

二、 迭代

三、正确性证明

以冒泡排序为例：

  1. 不变性：经k轮扫描交换后，最大的k个元素必然就位
  2. 单调性：经k轮扫描交换后，问题规模缩减至n-k
  3. 正确性：经至多n轮扫描后，算法必然终止，且能给出正确解答

四、封底估算（Back-Of-Envelope Calculation）

在这里插入图片描述

五、作业

  1. Which of the following equations is wrong? 下列对应关系中错误的是：1+ 1/2 +1/3 + …… + 1/n = O(nlogn) （正确O(logn)）
  2. x=n; y=1; while( x >= (y-1)*(y+1)) y++;The complexity of the program above is 以上程序的时间复杂度为：不大于n的完全平方根加1的最大整数。
  3. True or false: In bubble sort, the size of the problem is reduced to k after k rounds of sweep & swap.判断：经过k轮扫描交换后，起泡排序程序会将问题规模缩减至k。 False错（n-k）

E. 迭代与递归

迭代乃人工，递归方神通

一、减而治之Decrease-and-conquer

在这里插入图片描述

二、递归跟踪（recursion trace）

  • 算法时间：检查每个递归实例，累计所需时间（调用语句本身，计入对应的子例）
  • 线性递归：Linear Recursion —— O(n) T(n)=O(1)+n=O(n)
  • 数组倒置：Reverse
    在这里插入图片描述

三、分而治之Divide-and-conquer

在这里插入图片描述

四、大师定理/主定理/Master Theorem在这里插入图片描述

五、作业

1.True or false: To apply decrease-and-conquer, we divide the original problem into two degenerated sub-problems, solve them, and merge their solutions. 判断：减而治之的思想是：将问题划分为两个平凡的子问题，分别求解子问题，来得到原问题的解 False错
2. Li Lei and Han Meimei have different opinions regarding the linear time complexity in the video lecture.对于视频中线性递归的时间复杂度，A、B两位同学有不同的看法。Li Lei aggrees to the video, the complexity is O(n) because there are n instances each requiring O(1) execution time. A同学赞同视频中的算法，由于单个递归实例需要O（1）时间完成，共有n个实例，所以整个算法的复杂度是O（n）However, Han Meimei believes the time for sum（A,n) to be O(n) instead of O(1), since it’s still executing even when calling sum(A,n-1), leading to a total time complexity of （. You agree with 但B同学认为，当sum（A,n）函数中调用sum(A,n-1)时，sum(A,n)仍在执行，因此sum（A,n）的完成时间不是O(1)而是O（n），依此计算，整个算法的复杂度应该为（）。请问哪位同学对了？ Li Lei A同学
3. In the video lecture we see a comment in the code: “Two base cases are required”. What does it refer to? 视频里代码注释中“需要两个递归基”的含义是 The sequence of recursive callls is terminated when the problem size is reduced to either 0 or 1. 在问题规模缩减为0或1时，停止递归
4. 判断：用分而治之的思想来解决长度为n的数组的求和问题（n足够大），递归实例的数目会比用减而治之的方法少。 错

F. 动态规划

一、fibonacci数

  1. 递归版fibonacci数低效根源：各递归实例均被大量重复地调用
  2. 迭代
    · memoization（制表备查）
    · 颠倒计算方法：自底向上递归

二、LCS(Longest Common Sbusequence)最长公共子序列

  • 递归：最好O(n+m); 最差O(2n)
    1. 递归基：若n=-1或m=-1，则取做空序列
    2. 减而治之：若A[n] = ‘X’ = B[m]，则LCS(n-1, m-1)+‘X’
    3. 分而治之：A[n] ≠ B[m]，则LCS(n, m-1)与LCS(n-1, m)中取更长者
  • 动态规划—迭代：O(n*m)
  • 单调性：每经过一次比对，至少一个序列的长度缩短一个单位

三、作业

  1. The naive way of computing fib(n) recursively leads to a time complexity of 直接用定义以递归的方式计算fib(n)的时间复杂度是：O(2n)
  2. With a regular computer, computing fib(100) naively using recursion would cost (no need to consider overflow). 以现在普通计算机的速度，直接用定义以递归的方式计算fib(100)需要多少时间（不考虑溢出）:much longer than your lifetime. 这辈子看不到啦
  3. For the staircase problem in the video lecture, how many different ways can get you from the first step to the eighth. 对于视频中的上台阶问题（从第一层开始），上到第8层共有多少种不同的走法：34
  4. The time and space complexities for computing fib(n) with dynamic programming are 用动态规划计算fib(n)的时间、空间复杂度分别为:θ(n)，θ(1)
  5. The length of the LCS between “program” and “algorithm” is program 和 algorithm的LCS长度为:3
  6. LCS(x,y) is defined to be the length of the LCS between strings x and y. LCS(“program”, “algorithm”) = LCS(x,y)表示字符串x,y最长公共子序列长度，则LCS（“program”, “algorithm”）= LCS（“progra”, “algorith”） + 1
  7. Checkout the Demo in the video lecture (the download link is on the right side of the “Course” page, or in 01-f-6). Which tool was used to write the demo?下载并使用视频中的Demo（下载链接在“课程信息”右侧，01-f-6里也有），它是用什么做的？MS Excel
  8. Computing the LCS using dynamic programming leads to a time complexity of (m and n are the lengths of the input strings) 用动态规划求解输入序列长度分别为m,n的LCS问题，时间复杂度为：θ(m*n)

XA. 局限(缓存)

一、就地循环移位：

  1. 蛮力版O(n*k)：反复以1为间距循环佐移
  2. 迭代版O(n)：同余类（考虑是否互素）
  3. 倒置版O(3n)：cache连续访问

二、作业

  1. 如下图
    在这里插入图片描述
  2. Which of the following functions grows fastest asymptotically?下列函数渐进增长速度最快的是：n/log2(n)
  3. . Given the following three functions: 以下是三个函数：Their time complexities are: 它们的时间复杂度分别为：在这里插入图片描述
  4. The following recursive function is for reversing array A[lo, hi]以下递归函数实现数组A[lo, hi]的倒置：What is the time complexity of reverse(A, 0, n-1), for reversing an array of length n?调用reverse(A, 0, n-1)以倒置长度为n的数组，算法的时间复杂度为：
    在这里插入图片描述
  5. V={11, 23, 19, 7, 17, 5, 3, 13, 2, 29} When sorting V using bubble sort, what is the value of V[8] after two rounds of sweep & swap?对V进行起泡排序，两趟扫描交换后V[8] = 23
啊有礼貌
关注
  • 6
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
做DEMO教程特别好的工具
01-18
非常好的做教程的工具，可以生成SWF和EXE文件
数据结构——基础（算法、复杂度、迭代与递归、动态规划）
德prince
10-16 4966
目录 一、计算（数据结构与算法研究的对象和目标） 二、计算模型 一般情况下我们主要考虑时间复杂度 三、大O记号 常见时间复杂度的分级 四、算法分析 级数 级数在循环中的应用 算法分析示例 五、迭代与递归 减而治之 分而治之 六、动态规划 一、计算（数据结构与算法研究的对象和目标） 计算：即信息处理。是指借助某种工具，遵循一定规则，以明确而机械的形式进行的操作。 计算...
南大算法设计与分析课程复习笔记(1) L1 - Model of computation
weixin_30399871的博客
03-08 452
一、计算模型 1.1 定义： 我们在思考和处理算法的时候是机器无关、实现语言无关的。所有的算法运行在一种“抽象的机器”之上，这就是计算模型。　 1.2 种类 图灵机是最有名的计算模型，本课使用更简单更合适的RAM计算模型。 1.3 RAM（Random Access Machine）模型 RAM模型的基本构成如下： RAM计算模型有如下特点： 一个简单操作花费一步...
什么是图灵完备性（Turing complete）？
热门推荐
Norstc的博客
10-18 2万+
作者：Ran C 链接：https://www.zhihu.com/question/20115374/answer/288346717 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 这是一篇旨在帮助理解图灵机及相关概念是什么，而非证明其正确性的回答，它包含以下内容： 什么是图灵机 图灵机可以解决什么问题 什么是图灵完备 直观理解图灵完备——Brainfuck语言 1. 什么是图灵机 图灵机（Turing Machine）是图灵在1936年发表的 "On .
NOIP2009年普及组初赛试题答案及解析
城南蝈蝈
10-27 6494
原文链接请点这： 一、单项选择题（共20题，每题1.5分，共计30分。每题有且仅有一个正确答案。） 1、 关于图灵机下面的说法哪个是正确的：（ D） A.图灵机是世界上最早的电子计算机。 B.由于大量使用磁带操作，图灵机运行速度很慢。 C.图灵机是英国人图灵发明的，在二战中为破译德军的密码发挥了重要作用。 D.图灵机只是一个理论上的计算模型。 【解析】所谓的图灵机就是指一个抽象的机器，它有一条无限长的纸带，纸带分成了一个一个的小方格，每个方格有不同的颜色。有一个机器头在纸带上移来移去。机器头有一组内部状态，
数据结构笔记 第一章 绪论
呵呵哒!的博客
03-31 81
数据结构笔记 第一章 绪论
南瓜书笔记 第一章 绪论
2301_77417285的博客
10-18 22
西瓜书笔记第一章绪论
西瓜书学习笔记 第1章 绪论
weixin_37779325的博客
02-08 93
目录第1章 绪论 本文仅针对个人不熟知识点进行整理，已知内容或过于简单的就不整理了。 第1章 绪论 假设空间：所有假设组成的空间 版本空间：现实问题中我们常面临很大的假设空间，但学习过程是基于有限样本训练集进行的，因此，可能有多个假设与训练集一致，即存在着一个与训练集一致的假设集合，我们称之为版本空间 (version space)。 也就是说这多个假设的集合就是假设集合，称为版本空间 归纳偏好 (简称"偏好")：机器学习算法在学习过程中对某种类型假设的偏好。 奥卡姆剃刀：若有多个假设与
数据结构学习笔记第一章绪论
weixin_41070748的博客
03-27 204
目录数据结构的起源数据结构的基本概念算法和算法分析stl与数据结构内容1.数据结构的起源：算法+数据结构=程序数据结构=逻辑结构+储存方法2.数据结构的基本概念：A:数据：数值型数据和非数值型数据数据元素：是数据的基本单位，在有些情况下，数据元素也被称为元素顶点和节点或者记录。数据项：是构成数据元素的最基本的元素和单位。数据类型：是具有相同性质的计算机数据的集合以及在这个数据类型上的一组操作。（简...
数据结构复习笔记 第一章 绪论
Yous的博客
02-05 194
第一章 绪论一、思维导图二、概念三、算法 一、思维导图 二、概念 1.数据 数据是信息的载体，是描述客观事物属性的数、字符及所有能输入到计算机中并被计算机程序识别和处理的符号的集合。 2.数据元素 数据元素是数据的基本单位，通常作为一个整体进行考虑和处理。 一个数据元素可由若干数据项组成，数据项是构成数据元素的不可分割的最小单位。例如，学生记录就是一个数据元素，它由学号、姓名、性别等数据项组成。 3.数据对象 数据对象是具有相同性质的数据元素的集合，是数据的一个子集。 4.数据类型 数据类型是一个值的集合
《进化优化》第一章 绪论
11-05
笔记：《进化优化算法 基于仿生和种群的计算机智能方法》第一章 绪论
《计算机控制技术》-笔记-第一章 绪论.pdf
12-06
自己学习时的笔记，可供初学者参考哦
数据结构 第一章绪论
09-09
原创课堂笔记，文字加图解.自己的理解加老师的讲解，这一篇是绪论，以后还会继续补充的。分享一下资源，请大师们点评一下
《数据结构及其应用》笔记含答案 第一章_绪论.pdf
07-13
《数据结构及其应用》笔记含答案 第一章_绪论.pdf《数据结构及其应用》笔记含答案 第一章_绪论.pdf《数据结构及其应用》笔记含答案 第一章_绪论.pdf《数据结构及其应用》笔记含答案 第一章_绪论.pdf《数据结构及其...
操作系统高分笔记第一章绪论思维导图
H1453571548的博客
05-27 141
笔试强训-day17_T2 十字爆破
weixin_46186903的博客
05-03 832
模拟即可，但是由于数据量过⼤，我们可以提前把每⼀⾏以及每⼀列的和存起来，⽅便统计总和。解法二：提前把每⼀⾏以及每⼀列的和存起来，然后输入输出使用快速的IO方式，解答如下所示。解法一：暴力遍历，这种方法很容易想到，并且也容易编写出代码，但是会超时。因为1+2+3=6，1+2+4=7，1+3+4=8，2+3+4=9。牛牛选择一个方格，可以得到和这个方格同行、同列的所有数之和的得分。现在牛牛想知道下一步选择每个格子的得分情况，你可以帮帮他吗？m个方格，每个方格中有一个整数。
LeetCode 35.搜索插入位置
最新发布
tus00000的博客
05-08 169
给定一个排序数组和一个目标值，在数组中找到目标值，并返回其索引。如果目标值不存在于数组中，返回它将会被按顺序插入的位置。输入: nums = [1,3,5,6], target = 5。输入: nums = [1,3,5,6], target = 2。输入: nums = [1,3,5,6], target = 7。此算法时间复杂度为O(logn)，空间复杂度为O(1)。请必须使用时间复杂度为 O(log n) 的算法。nums 为 无重复元素 的 升序 排列数组。
异或思想的算法题
aaa114514aaaa的博客
05-02 2085
有关异或思想的两道题目的详细解析和代码实现。 1.消失的数字（简单） 2.只出现一次的数字（较难）
计算机网络第一章笔记
09-22
计算机网络是一个将分散的、具有独立功能的计算机系统，通过通信设备与线路连接起来，有功能完善的软件实现资源共享和信息传递的系统。计算机网络的功能包括数据通信、资源共享和分布式处理等。计算机网络的组成可以从不同角度进行分类。 网络体系结构是从功能上描述计算机网络结构，它是分层结构，每一层遵循某个或者某些网络协议以完成本层的功能。计算机网络体系结构包括各层及其协议的集合，每一层在向下一层提供服务时，除了本层的功能外，还包含下层提供的功能。通过接口，每一层提供的具体实现细节对上一层完全屏蔽。计算机网络的分层结构可以有三种不同的结构。 计算机网络采用分层结构的原因是为了进行通信前的准备工作，例如激活通信通路、识别目的主机、检查对方是否已准备好等，以确保差错和意外能够得到解决。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

啊有礼貌

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值