算法与数据结构(三)

一 数组

数组 (array)是一种线性数据结构,其将相同类型元素存储在连续的内存空间中。我们将元素在数组中的位置称为该元素的索引( index)。

数组常用操作:1. 初始化数组,2. 访问元素,3. 插入元素,4. 删除元素,5. 遍历数组,6. 查找元素。

总的来看,数组的插入与删除操作有以下缺点。

‧ 时间复杂度高:数组的插入和删除的平均时间复杂度均为 𝑂(𝑛) ,其中 𝑛 为数组长度。

‧ 丢失元素:由于数组的长度不可变,因此在插入元素后,超出数组长度范围的元素会丢失。

‧ 内存浪费:我们可以初始化一个比较长的数组,只用前面一部分,这样在插入数据时,丢失的末尾元素 都是“无意义”的,但这样做也会造成部分内存空间的浪费。

数组优点与局限性

数组存储在连续的内存空间内,且元素类型相同。这种做法包含丰富的先验信息,系统可以利用这些信息来优化数据结构的操作效率。

‧ 空间效率高: 数组为数据分配了连续的内存块,无须额外的结构开销。

‧ 支持随机访问: 数组允许在 𝑂(1) 时间内访问任何元素。

‧ 缓存局部性: 当访问数组元素时,计算机不仅会加载它,还会缓存其周围的其他数据,从而借助高速缓存来提升后续操作的执行速度。

连续空间存储是一把双刃剑,其存在以下缺点。

‧ 插入与删除效率低: 当数组中元素较多时,插入与删除操作需要移动大量的元素。

‧ 长度不可变: 数组在初始化后长度就固定了,扩容数组需要将所有数据复制到新数组,开销很大。 ‧ 空间浪费: 如果数组分配的大小超过了实际所需,那么多余的空间就被浪费了。

数组典型应用

数组是一种基础且常见的数据结构,既频繁应用在各类算法之中,也可用于实现各种复杂数据结构。

‧ 随机访问:如果我们想要随机抽取一些样本,那么可以用数组存储,并生成一个随机序列,根据索引实现样本的随机抽取。

‧ 排序和搜索:数组是排序和搜索算法最常用的数据结构。快速排序、归并排序、二分查找等都主要在数 组上进行。

‧ 查找表:当我们需要快速查找一个元素或者需要查找一个元素的对应关系时,可以使用数组作为查找表。假如我们想要实现字符到 ASCII 码的映射,则可以将字符的 ASCII 码值作为索引,对应的元素存放在数组中的对应位置。

‧ 机器学习:神经网络中大量使用了向量、矩阵、张量之间的线性代数运算,这些数据都是以数组的形式 构建的。数组是神经网络编程中最常使用的数据结构。

‧ 数据结构实现:数组可以用于实现栈、队列、哈希表、堆、图等数据结构。例如,图的邻接矩阵表示实际上是一个二维数组。

列表

数组长度不可变导致实用性降低。在实际中,我们可能事先无法确定需要存储多少数据,这使数组长度的选择变得困难。若长度过小,需要在持续添加数据时频繁扩容数组;若长度过大,则会造成内存空间的浪费。

为解决此问题,出现了一种被称为动态数组(dynamic array)的数据结构,即长度可变的数组,也常被称为列表 (list)。

列表常用操作 1. 初始化列表,2. 访问元素,3. 插入与删除元素,4. 遍历列表,5. 拼接列表,6. 排序列表,

二 链表

内存空间是所有程序的公共资源,在一个复杂的系统运行环境下,空闲的内存空间可能散落在内存各处。我们知道,存储数组的内存空间必须是连续的,而当数组非常大时,内存可能无法提供如此大的连续空间。此时链表的灵活性优势就体现出来了。

链表(linked list)是一种线性数据结构,其中的每个元素都是一个节点对象,各个节点通过“引用”相连接。 引用记录了下一个节点的内存地址,通过它可以从当前节点访问到下一个节点。 链表的设计使得各个节点可以被分散存储在内存各处,它们的内存地址是无须连续的

链表常用操作:1. 初始化链表,2. 插入节点,3. 删除节点,4. 访问节点,5. 查找节点

常见链表类型

如图所示,常见的链表类型包括三种。

‧ 单向链表:即上述介绍的普通链表。单向链表的节点包含值和指向下一节点的引用两项数据。我们将首个节点称为头节点,将最后一个节点称为尾节点,尾节点指向空 None 。

‧ 环形链表:如果我们令单向链表的尾节点指向头节点(即首尾相接),则得到一个环形链表。在环形链表中,任意节点都可以视作头节点。

‧ 双向链表:与单向链表相比,双向链表记录了两个方向的引用。双向链表的节点定义同时包含指向后继节点(下一个节点)和前驱节点(上一个节点)的引用(指针)。相较于单向链表,双向链表更具灵活 性,可以朝两个方向遍历链表,但相应地也需要占用更多的内存空间。

三 数组 VS 链表

下表总结对比了数组和链表的各项特点与操作效率。由于它们采用两种相反的存储策略,因此各种性质和操作效率也呈现对立的特点。

重点回顾

‧ 数组和链表是两种基本的数据结构,分别代表数据在计算机内存中的两种存储方式:连续空间存储和 离散空间存储。两者的特点呈现出互补的特性。

‧ 数组支持随机访问、占用内存较少;但插入和删除元素效率低,且初始化后长度不可变。

‧ 链表通过更改引用(指针)实现高效的节点插入与删除,且可以灵活调整长度;但节点访问效率低、占 用内存较多。常见的链表类型包括单向链表、循环链表、双向链表。

‧ 动态数组,又称列表,是基于数组实现的一种数据结构。它保留了数组的优势,同时可以灵活调整长 度。列表的出现极大地提高了数组的易用性,但可能导致部分内存空间浪费。

四 栈与队列

栈 (stack)是一种遵循先入后出的逻辑的线性数据结构。先入后出

我们可以将栈类比为桌面上的一摞盘子,如果需要拿出底部的盘子,则需要先将上面的盘子依次取出。我们 将盘子替换为各种类型的元素(如整数、字符、对象等),就得到了栈数据结构。

我们把堆叠元素的顶部称为“栈顶”,底部称为“栈底”。将把元素添加到栈顶的操作叫做“入 栈”,删除栈顶元素的操作叫做“出栈”。

队列

队列在一端添加元素,并在另一端删除元素。 先入先出

小结

‧ 栈是一种遵循先入后出原则的数据结构,可通过数组或链表来实现。

‧ 从时间效率角度看,栈的数组实现具有较高的平均效率,但在扩容过程中,单次入栈操作的时间复杂度 会降低至 𝑂(𝑛) 。相比之下,基于链表实现的栈具有更为稳定的效率表现。

‧ 在空间效率方面,栈的数组实现可能导致一定程度的空间浪费。但需要注意的是,链表节点所占用的内 存空间比数组元素更大。

‧ 队列是一种遵循先入先出原则的数据结构,同样可以通过数组或链表来实现。在时间效率和空间效率 的对比上,队列的结论与前述栈的结论相似。

‧ 双向队列是一种具有更高自由度的队列,它允许在两端进行元素的添加和删除操作。

五 哈希表

在计算机世界中,哈希表如同一位智能的图书管理员。 他知道如何计算索书号,从而可以快速找到目标书籍

哈希表 (hash table),又称散列表,其通过建立键 key 与值 value 之间的映射,实现高效的元素查询。具体而言,我们向哈希表输入一个键 key ,则可以在 𝑂(1) 时间内获取对应的值 value 。

哈希算法的设计

哈希算法的设计是一个需要考虑许多因素的复杂问题。然而对于某些要求不高的场景,我们也能设计一些简单的哈希算法。

‧ 加法哈希:对输入的每个字符的 ASCII 码进行相加,将得到的总和作为哈希值。

‧ 乘法哈希:利用了乘法的不相关性,每轮乘以一个常数,将各个字符的 ASCII 码累积到哈希值中。

‧ 异或哈希:将输入数据的每个元素通过异或操作累积到一个哈希值中。

‧ 旋转哈希:将每个字符的 ASCII 码累积到一个哈希值中,每次累积之前都会对哈希值进行旋转操作。

/* 加法哈希 */
int addHash(string key) {
long long hash = 0;
const int MODULUS = 1000000007;
for (unsigned char c : key) {
hash = (hash + (int)c) % MODULUS;
}
return (int)hash;
}
/* 乘法哈希 */
int mulHash(string key) {
long long hash = 0;
const int MODULUS = 1000000007;
for (unsigned char c : key) {
hash = (31 * hash + (int)c) % MODULUS;
}
return (int)hash;
}
/* 异或哈希 */
int xorHash(string key) {
int hash = 0;
const int MODULUS = 1000000007;
for (unsigned char c : key) {
hash ^= (int)c;
}
return hash & MODULUS;
}
/* 旋转哈希 */
int rotHash(string key) {
long long hash = 0;
const int MODULUS = 1000000007;
for (unsigned char c : key) {
hash = ((hash << 4) ^ (hash >> 28) ^ (int)c) % MODULUS;
}
return (int)hash;
}

六 二叉树

二叉树 (binary tree)是一种非线性数据结构,代表着祖先与后代之间的派生关系,体现着“一分为二”的分治逻辑。与链表类似,二叉树的基本单元是节点,每个节点包含:值、左子节点引用、右子节点引用。

七 堆

堆就像是山川的峰峦,它们层叠起伏、形态各异。 每一座山峰都有其高低之分,而最高的山峰总是最先映入眼帘

堆 (heap)是一种满足特定条件的完全二叉树,主要可分为

‧「大顶堆 max heap」:任意节点的值 ≥ 其子节点的值。

‧「小顶堆 min heap」:任意节点的值 ≤ 其子节点的值。

堆作为完全二叉树的一个特例,具有以下特性。

‧ 最底层节点靠左填充,其他层的节点都被填满。

‧ 我们将二叉树的根节点称为“堆顶”,将底层最靠右的节点称为“堆底”。

‧ 对于大顶堆(小顶堆),堆顶元素(即根节点)的值分别是最大(最小)的。

堆是一棵完全二叉树,根据成立条件可分为大顶堆和小顶堆。大(小)顶堆的堆顶元素是最大(小)的。

‧ 优先队列的定义是具有出队优先级的队列,通常使用堆来实现。

‧ 堆的常用操作及其对应的时间复杂度包括:元素入堆 𝑂(log 𝑛)、堆顶元素出堆 𝑂(log 𝑛) 和访问堆顶元素 𝑂(1) 等。

‧ 完全二叉树非常适合用数组表示,因此我们通常使用数组来存储堆。

‧ 堆化操作用于维护堆的性质,在入堆和出堆操作中都会用到。

‧ 输入 𝑛 个元素并建堆的时间复杂度可以优化至 𝑂(𝑛) ,非常高效。

‧ Top‑K 是一个经典算法问题,可以使用堆数据结构高效解决,时间复杂度为 𝑂(𝑛 log 𝑘) 。

八 图

图 (graph)是一种非线性数据结构,由顶点 (vertex)和边 (edge)组成。我们可以将图 𝐺 抽象地表示为 一组顶点 𝑉 和一组边 𝐸 的集合。

‧ 图由顶点和边组成,可以被表示为一组顶点和一组边构成的集合。

‧ 相较于线性关系(链表)和分治关系(树),网络关系(图)具有更高的自由度,因而更为复杂。

有向图的边具有方向性,连通图中的任意顶点均可达,有权图的每条边都包含权重变量。

‧ 邻接矩阵利用矩阵来表示图,每一行(列)代表一个顶点,矩阵元素代表边,用 1 或 0 表示两个顶点之间有边或无边。

邻接矩阵在增删查操作上效率很高,但空间占用较多。

‧ 邻接表使用多个链表来表示图,第 𝑖 条链表对应顶点 𝑖 ,其中存储了该顶点的所有邻接顶点。

邻接表相 对于邻接矩阵更加节省空间,但由于需要遍历链表来查找边,时间效率较低。

‧ 当邻接表中的链表过长时,可以将其转换为红黑树或哈希表,从而提升查询效率。

‧ 从算法思想角度分析,邻接矩阵体现“以空间换时间”,邻接表体现“以时间换空间”。

‧ 图可用于建模各类现实系统,如社交网络、地铁线路等。

‧ 树是图的一种特例,树的遍历也是图的遍历的一种特例。

‧ 图的广度优先遍历是一种由近及远、层层扩张的搜索方式,通常借助队列实现。

‧ 图的深度优先遍历是一种优先走到底、无路可走时再回溯的搜索方式,常基于递归来实现。

参考书籍《Hello 算法》

  • 31
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值