文件与磁盘空间管理

文件和文件系统

文件管理：把所管理的程序和数据组织成一系列的文件，并能进行合理的存储、使用等操作。

1）基本概念
数据项：描述对象某种属性的字符集；是数据组织中可以命名的最小逻辑数据单位。
记录：一组相关数据项集合，描述对象某方面的属性；
关键字：一个记录中的一个或几个数据项的集合，用于唯一的标识一个记录。
文件：由创建者定义的、具有文件名的一组相关元素的集合。
有结构：由相关记录组成
无结构：字符流的形式
属性：类型、长度、物理位置、创建时间

2 ）文件类型
不同的系统对文件的管理方式不同
大多用扩展名标志文件类型，按如下几种方式分类文件
按用途：系统、用户、库文件
按数据形式：源文件、目标文件、可执行文件
按存取控制属性：只执行、只读、读写
按组织和处理方式：普通文件、目录文件、特殊（设备）文件

3）文件系统模型

4）文件操作

• 最基本的操作
  创建/删除文件：分空间，形成FCB及目录（名，地址）
  读、写：按名检索目录，找到文件地址，开始读、写
  设置文件读写位置，实现随机存取（尤其适用于记录文件）

• 还需要：“打开”与“关闭”：

  文件读/写操作 = 检索 + 读/写。
  每次读写前都要重复检索增大开销。所以为了方便对同一文件的多次读写，一次检索到文件后就在内存中记录其位置，避免重复检索。被记录下位置的文件就是“打开”文件；
  不需要再操作文件时，通过“关闭”这个系统调用关闭文件——即从打开文件表上删除其路径信息即可。

• 其他操作：改名、改所属用户、改访问权限等属性的操作。

文件的逻辑结构

• 有结构文件（记录式）
  ①定长记录
  ②变长记录
  *如何组织记录：
  顺序文件。系统需按该类型记录“长度”，通常定长。
  索引文件。系统需为文件建立索引表。
  索引顺序文件。建索引表，记录每组记录的第一个记录位置。
• 无结构文件（字符流式）
  字节为单位，利用读写指针依次访问。
  系统对该类文件不需格式处理。
  
  （但并不强制！）

①顺序文件

• 两种记录排列方式
  串结构：按记录形成的时间顺序串行排序。记录顺序与关键字无关；
  顺序结构：按关键字排序。

• 检索方法：
  从头检索，顺序查找要找的记录，定长的计算相对快。
  顺序结构，可用折半查找、插值查找、跳步查找等算法提高效率

顺序文件的优缺点：
不方便随机存取某条记录，但适用批量存取的场合。
适合磁带等特殊介质。
单记录的查找、修改等交互性差；增减不方便（改进办法：把增删改的记录登记在一个事务文件中，在某段时间间隔后再与原文件合并更新）。

②索引文件
为了方便单个记录的随机存取，为文件建立一个索引表，记录每项记录在文件的逻辑地址及记录长度；该索引表按关键字排序，。
索引表内容：
索引号、长度、记录地址指针
检索效率
索引表本身即是个按记录键排序的定长顺序文件，所以能利用算法提高索引表检索速度
一个索引文件可以有多个索引表
为方便用户根据不同记录属性检索记录，为顺序文件建立多个索引表，每种能成为检索条件的域都配备一张索引表。
索引文件的优缺点
适用于变长记录，可提高检索速度，实现直接存取
索引表增加了存储开销

③索引顺序文件
既要方便，又要降低开销
本方式是最常见的一种逻辑文件形式。
将顺序文件的所有记录分组
还是建立索引表，但每个表项记录的是每组第1条记录的键值和地址。
组内记录仍按顺序方式检索和使用。
检索一条记录的过程：
先计算记录是在第几组，然后再检索索引确定组在哪里后，在组内顺序查找。
可利用多级索引，进一步提高检索效率。

④直接文件
给定键值（如学号）不需顺序检索直接得到记录的物理地址

外存分配方式

目标：有效利用外存空间，提高文件访问速度
常用三种方式：
连续分配
链接分配（不连续）
索引分配
通常一个系统中仅采用一种方式
采用的磁盘分配方式决定了文件的“物理结构”
顺序结构；链接式结构；索引式结构。
注意与逻辑结构名类似但不是一回事。

1）连续分配
为每一个文件分配一组相邻的盘块。
逻辑文件中的记录顺序与存储器中文件占用盘块的顺序一致。
优点：
顺序访问容易，读写速度快
缺点：
会产生外存碎片。可紧凑法弥补，但需要额外的空间，和内存紧凑相比更花时间。
创建文件时要给出文件大小；存储空间利用率不高，不利于文件的动态增加和修改；
适用于变化不大顺序访问的文件，在流行的UNIX系统中仍保留了连续文件结构。如对换区

2）链接分配
可以为每一个文件分配一组不相邻的盘块。
设置链接指针，将同属于一个文件的多个离散盘块链接成一个链表，这样形成的文件称为链接文件。会有链接成本。
优点：
离散分配，消除外部碎片，提高利用率
同时适用于文件的动态增长；修改容易
链接有两种形式：
①隐式链接
文件空间信息的目录项中没有链接数据；
链接信息隐含记录在盘块数据中；
每个盘块拿出若干字节，记录指向下一盘块号的指针。
问题：只能顺着盘块读取，可靠性低
②显式链接
记录盘块链接的指针显示地记录为一张链接表
所有已分配的盘块号都记录在其中，称文件分配表
为了提高文件系统访问速度，FAT一般常驻内存
属于一个文件的盘块通过链接成为一体，每个链条的首地址作为文件地址记录在相应文件的FCB的“物理地址”字段中。

FAT表的相关计算
MS-DOS文件分配结构为例：
一个1.2M的磁盘，盘块512B大小；若文件系统采用FAT格式，则FAT表大小如何？
表项个数 = 盘块个数
= 容量 / 盘块大小 = 1.2 *220 / 29 = 1.2 *211 个
表项大小，决定于盘块数量编号需要的位数=12 位；
FAT表大小 = 表项个数 * 表项大小
= 1.2 211 * 12 bit
= 1.2 211 * 1.5B = 3.6KB
以半字节（0.5B=4b）为基本单位,表项需12位（1.5B）
由上述公式，若容量为200M的磁盘，盘块仍为512B，FAT表大小如何？
FAT表表项有200K≈218 （个）
表项需20位，即28+4，2.5字节
FAT表需内存大小为2002.5=500KB

3）索引分配
链接的不足
顺序检索的时间成本：不能支持高效的盘块直接存取。要对一个文件进行直接存取，仍需在FAT中顺序的查找许多盘块号。
链接信息的空间成本：FAT需占用较大的内存空间。当磁盘容量较大时，FAT可能要占用数MB以上的内存空间。这是令人难以忍受的
改进：
系统运行时只涉及部分文件，FAT表无需全部调入内存
每个文件单独建索引表（物理盘块索引），记录所有分配给它的盘块号；
建立文件时，便分配一定的外存空间用于存放文件盘块索引表信息；
①单级索引分配
索引形式适合大文件
中、小型文件，只需若干链接即可。若用索引分配方式，用一个盘块存放少量索引信息反而不适用。
②多级索引
若文件较大，存放索引表也需要多个盘块（索引盘块）。
索引盘块亦需要按顺序管理起来
若索引盘块数量较少用指针链接的方式即可；
若索引盘块较多，需对索引盘块也采用索引方式管理，形成多级索引。

多级索引下的文件大小
若两级索引，盘块1KB，盘块号占4字节
一个盘块可存放的盘块号数有多少个
1KB/4B = 210/4 = 28 = 256（个）
二级索引下的文件可分配的最大盘块数
256 * 256 =26×210=64 K（个）
文件最大长度为
64K（个）1KB=64MB
若盘块大小为4KB，单级索引允许文件最大长度为4MB（4K/44KB），二级索引则文件最大可达4GB（1K1K4KB）。

③混合组织索引（增量式索引组织方式）
多种索引方式相结合，以UNIX system V的索引结点为例：
一个索引结点定义为13个地址项：iaddr（0）~iaddr（12），总的来说分为两种：直接地址、间接地址
iaddr（0）~iaddr（9）存放直接地址，即存文件数据的盘块号；
iaddr（10）存放单级索引的索引盘块号；
剩余的用于文件较大时存放多级索引数据。
iaddr（11）存放二级索引的主索引盘块号
iaddr（12）存放三级索引的主索引盘块号

索引文件在顺序访问或随机访问中都比较灵活，是一种比较 好的文件物理结构，但也是需要一定的用于索引表的空间开销和检索文件索引的时间开销的。
UNIX系统是使用索引结构成功的例子。

存储空间的管理

1）空闲表法和空闲链表法
空想表法：
常用于连续分配管理方式
①数据结构
系统为外存上的所有空闲区建立一张空闲表
每个空闲区对应一个空闲表项
（表项包括序号、空闲区的第一个盘块号、空闲盘块数等。）
将所有空闲区按其起始盘块号递增的次序排列。

②存储空间的分配与回收操作
与内存的动态分配类似，同样可采用首次适应算法、循环首次适应算法等。
回收主要解决对数据结构的数据修改。
应该说明，虽然很少采用连续分配方式，然而在外存的管理中，由于它具有较高的分配速度，可减少访问磁盘的I/O频率，故它在诸多分配方式中仍占有一席之地。（如实现虚拟用的部分外存就是连续分配方式）

空闲链表法：
将所有空闲盘区拉成一条空闲链。
数据结构：链
根据构成链所用基本元素的不同，可把链表分成两种形式：
空闲盘块链
空闲盘区链

空闲盘块链：
将磁盘上的所有空闲空间，以盘块为单位拉成一条链。
因创建文件而请求分配空间时，系统从链首依次摘下适当数目的空闲盘块分配给用户。
因删除文件而释放存储空间时，系统将回收的盘块依次插入空闲盘块链的末尾。
优点：分配和回收一个盘块的过程非常简单，但为一个文件分配盘块时，可能要重复操作多次。

分配回收简单。链表长，大量分配时需要操作的指针多

空闲盘区链：
将所有空闲盘区拉成一条链。每个盘区上含有：
指示下一空闲盘区的指针、本盘区大小等信息
分配通常采用首次适应算法。回收盘区时，将回收区与相邻的空闲盘区相合并。
为提高检索速度，可以采用显式方法，为空闲盘区建立一张链表放在内存中。
分配、回收操作涉及的链式数据结构的处理方便

链表长度不定，分配时操作的指针数量相对较少，但分配回收操作相对复杂。

2）位示图法

• 利用二进制的一位来表示一个盘块的使用情况。
  值为0表示对应的盘块空闲，为1表示已分配。有的系统则相反。
  磁盘上的所有盘块都有一个二进制位与之对应，这样由所有盘块所对应的位构成一个集合，称为位示图。
• 总块数=mn。可用mn个位数来构成位示图，可看成是二维数组（数据结构）。
• 根据位示图进行盘块分配：
  1）顺序扫描位示图。找到为0的二进制位。
  2）将所找到的一个或一组二进制位，转换成与之对应的盘块号。进行分配操作。
  盘块号计算公式为：盘块号 = 列总数*（i-1）+ j;
  （注意下标i，j从1开始）
  3）修改位示图。
• 根据位示图进行盘块回收：
  1）将回收盘块的盘块号转换成位示图中的行号和列号。转换公式为：i=(盘块号-1)div列数+1；j=(盘块号-1)mod列数+1
  Div 求商，mod 取余，公式中的i、j都是从1开始的
  （如12号盘块转换后为1，12）
  2）修改位示图。

优点：从位示图中很容易找到一个或一组相邻接的空闲盘块。
但限于容量问题，常用于微型机和小型机中。

3）成组链接法
大型文件系统，空闲表或空闲链表太长不方便管理操作。
UNIX系统中采用成组链接法，这是将两种方法结合而形成的一种空闲盘块管理方法。
中心思想：
所有盘块按规定大小划分为组；
组间建立链接；
组内的盘块借助一个系统栈可快速处理，且支持离散分配回收。

文件控制块—FCB
为了能对一个文件进行正确的存取，必须为文件设置用于描述和控制文件的数据结构，称之为“文件控制块”（FCB）

• 文件与文件控制块一一对应
• 记录文件名及其存放地址、文件的说明和控制信息。（是谁？在哪里？什么权？）
• 文件管理程序借助于文件控制块中的信息对文件施以各种操作。

把文件控制块的有序集合称为文件目录，即一个文件控制块就是一个目录项。通常一个文件目录也被看作是一个文件，称为目录文件。

目录管理

对文件实施有效的管理，必须对它们加以妥善组织，主要是两大操作：

• 基本信息记录(FCB,目录项)
• 方便检索、管理（目录操作）

目录管理的要求如下：

• 实现“按名存取”；（最基本功能）
• 提高对目录的检索速度；
• 文件共享；
• 允许文件重名。

1）FCB内容
在文件控制块中，通常含有以下三类信息。

• 基本信息类
  包括文件名，文件物理位置，文件逻辑结构，文件的物理结构。

• 存取控制信息类
  包括文件主的存取权限，核准用户的存取权限和一般用户的存取权限。

• 使用信息类
  建立日期和时间、文件上次修改的日期和时间
  当前使用信息：打开该文件的进程数、是否被进程锁住、是否已修改等。
  例子：MS-DOS的文件控制块
  
  关于文件检索的速度：

• 文件FCB组成的“目录”文件存放于磁盘；需要时，要从磁盘将目录内容调入内存进行检索和使用。

• 如果目录占用5个盘块，则至多需启动5次磁头读写，速度较慢。（如何提高？）

2）索引结点
引入：

• 文件目录占越大量的盘块，需进行的磁盘读写开销越大。减少实际检索的信息量就减少移动磁头的开销，提高速度；
• 目录一般是按名检索。而直到找到正确文件前，只关心文件名，不需要其它的文件描述信息，目录中这部分内容的调入不是必须的；
• 所以：将文件名、文件具体信息分开，使文件描述信息单独形成一个索引结点。
  例如UINX：
  

索引结点由外存到内存的过程中有不同的形式：

• 磁盘索引节点
  存放在磁盘上的索引结点。主要包括以下内容：文件主标识符、文件类型、文件存取权限、文件物理地址、文件长度、文件连接计数、文件存取时间。
• 内存索引节点
  文件被打开后，将磁盘索引结点拷贝到内存索引结点中以便使用。比磁盘索引结点增加了以下内容：索引结点编号、状态、访问计数、文件所属文件系统的逻辑设备号、链接指针。

３） 目录结构
目前常用的目录结构形式有

• 单级目录（Single-Level Directory）
  最简单的目录结构。
  整个文件系统中只建立一张目录表，每个文件一个目录项，含有文件相关信息。
  每建立一个新文件：
  先检索所有的目录项，保证文件名唯一。
  获得一空白目录项，填入相关信息，修改状态位（表明每个目录项是否空闲）。
  删除一个文件：
  找到对应目录项，回收文件所占用空间
  清除目录项
  优点：简单、能实现目录管理的基本功能——按名存取。
  缺点：
  文件检索时需搜遍整个目录文件，范围大速度慢。
  不允许重名。名字过多难于记忆，对于多用户环境重名难以避免。
  不便于实现文件共享（因为不能重名，不同用户使用的共享文件必须不同名字，标识哪些用户共享文件也不方便），一般只适用单机环境。

• 两级目录（ Two-Level Directory ）
  为每一个用户建立一个单独的用户文件目录UFD，UFD由用户所有文件的文件控制块组成。
  系统建立一个主文件目录MFD， MFD中每个用户目录文件都占有一个目录项，其中包括用户名和指向UFD的指针。
  基本克服了单级目录的缺点，并具有以下优点：
  提高了检索目录的速度。
  在不同的目录中可重名。
  不同用户还可以使用相同/不同的文件名来访问系统中的同一个共享文件。
  不提供子目录操作，还不方便；各用户之间被完全隔离的话用户访问其他用户文件时，不方便合作。
  

• 多级目录
  适用于较大的文件系统管理。又称为树状目录(tree-like)
  在文件数目较多时，便于系统和用户将文件分散管理。
  层次结构更清晰、提供更灵活的权限管理等
  但目录级别太多时也会增加路径检索层次，增加磁盘访问时间。

树型目录（Tree-Structured Directories）

4）目录查询技术
用户要访问一个已存文件
目录数据调入内存；
按名检索：系统利用提供的文件名对目录(根据目录层次，需要做的检索次数也不同)进行查询
找该文件控制块
读FCB或对应索引结点；
从文件物理地址换算出文件在磁盘上的物理位置；
最后通过磁盘驱动程序，将所需文件读入内存。

目录查询方式：

• 线性检索法
  又称为顺序检索法。
  单级目录中
  用户提供文件名，顺序查找文件目录。
  树型目录中
  用户提供路径名，如/user/ast/mbox
  对多级目录进行逐层查找。
• Hash方法。
  曾介绍的Hash文件。
  如果建立了一张Hash索引文件目录，便可利用Hash方法进行查询
  系统将用户提供的文件名变换为文件目录的索引值，再利用该索引值到目录中去查找，将显著的提高检索速度。
  对于使用通配符的文件名系统无法利用Hash法检索目录，还是需用线性查找法。

文件的保护与共享

1）文件共享

• 索引结点法
  基本FCB法：
  名+详细信息。
  直接在文件目录中包含文件的物理地址，该方法实现的共享不适用文件动态变化。一个用户对文件的修改（如物理块号增加），对其他用户不可见，共享文件的FCB信息记录同步更新困难。
  文件名+索引结点指针。
  一个用户修改指针指向地址里的内容，指针不变，其他用户通过指针总能感知索引结点中的最新内容
  索引结点中增加count计数
  主人删除操作问题：
  删，共享用户访问错误；不删，计费问题。
• 符号链法
  创建一个link类型的文件：“文件名+共享文件路径”（类似快捷方式）
  文件主人删除文件，共享者只会出现找不到文件错误。不会发生共享文件删除后出现悬空指针的情况。
  该方法适用于网络文件共享，但根据路径检索共享文件的目标位置增加了访问开销，link文件独占索引结点也耗费一定的空间。

无论哪种共享，链接就对应一个文件，如果遍历复制整个目录内的文件，可能会从多条路径对共享文件进行多次访问

• 2）磁盘容错
  SFT，system fault tolerance
  防止磁盘故障造成的文件不安全
  SFT I:磁盘表面故障
  双目录、双文件分配表（空间冗余）
  写后读校验、热修复重定向（时间操作冗余）
  写入磁盘后再读回内存做一致性校验
  热修复写过程：从坏道重定向到专区并记录
  SFT II：磁盘驱动器、控制器故障
  驱动器故障：磁盘镜像
  控制器故障：磁盘双工——并行控制器，分离搜索加快读取
  SFT III：高级容错技术
  双机热备份
  双机互备份
  公用磁盘模式

数据一致性
一个数据分别存储到多个文件中，典型的如数据库
保证数据一致性：
高可靠存储器（冗余保证稳定，磁盘双工）+ 一致性软件
概念
事务：对数据各处保存位置访问、修改使其维持一致性的一次操作。
事务记录：记录事务运行时数据项修改全部信息的数据结构：事务名、数据项名、旧值、新值。
恢复算法：利用事务记录表处理已完成、未完成事务。
检查点：每隔一段时间，将内存中的事务记录表、已修改数据、检查点输出到稳定存储器，
并发控制
重复数据的一致性