Linux Kernel 核心中文手册(3)--内存管理

转载 2005年03月02日 10:01:00
Memory Management (内存管理)
 
    内存管理子系统是操作系统的重要部分。从计算机发展早期开始,就存在对于
大于系统中物理能力的内存需要。为了克服这种限制,开发了许多种策略,其中最
成功的就是虚拟内存。虚拟内存通过在竞争进程之间共享内存的方式使系统显得拥
有比实际更多的内存。
 
    虚拟内存不仅仅让你的计算机内存显得更多,内存管理子系统还提供:
 
    Large Address Spaces (巨大的地址空间)操作系统使系统显得拥有比实际
更大量的内存。虚拟内存可以比系统中的物理内存大许多倍。
 
    < Protection (保护)系统中的每一个进程都有自己的虚拟地址空间。这些


虚拟的地址空间是相互完全分离的,所以运行一个应用程序的进程不会影响另外的
进程。另外,硬件的虚拟内存机制允许对内存区写保护。这可以防止代码和数据被
恶意的程序覆盖。
 
    < Memory Mapping (内存映射)内存映射用来将映像和数据映射到进程的地
址空间。用内存映射,文件的内容被直接连结到进程的虚拟地址空间。
 
    < Fair Physics Memory Allocation (公平分配物理内存)内存管理子系统
允许系统中每一个运行中的进程公平地共享系统的物理内存
 
    Shared Virtual Memory (共享虚拟内存)虽然虚拟内存允许进程拥有分离(
虚拟)的地址空间,有时你也需要进程之间共享内存。例如,系统中可能有多个进
程运行命令解释程序 < bash 。虽然可以在每一个进程的虚拟地址空间都拥有一份
 bash 的拷贝,更好的是在物理内存中只拥有一份拷贝,所有运行 bash 的进程共
享代码。动态连接库是多个进程共享执行代码的另一个常见例子。共享内存也可以
用于进程间通讯 < (IPC) 机制,两个或多个进程可以通过共同拥有的内存交换信
息。 Linux 系统支持系统 V 的共享内存 IPC 机制。
 
3.1 An Abstract Model of Virtual Memory (虚拟内存的抽象模型)
 
    在考虑 Linux 支持虚拟内存的方法之前,最好先考虑一个抽象的模型,以免
被太多的细节搞乱。


 
    在进程执行程序的时候,它从内存中读取指令并进行解码。解码指令也许需要
读取或者存储内存特定位置的内容,然后进程执行指令并转移到程序中的下一条指
令。进程不管是读取指令还是存取数据都要访问内存。
 
    在一个虚拟内存系统中,所有的地址都是虚拟地址而非物理地址。处理器通过
操作系统保存的一组信息将虚拟地址转换为物理地址。
 
    为了让这种转换更简单,将虚拟内存和物理内存分为适当大小的块,叫做页(
 < page )。页的大小一样。(当然可以不一样,但是这样一来系统管理起来比较
困难)。 Linux 在 Alpha AXP 系统上使用 8K 字节的页,而在 Intel x86 系统
上使用 4K 字节的页。每一页都赋予一个唯一编号: page frame number(PFN 页
编号 ) 。在这种分页模型下,虚拟地址由两部分组成:虚拟页号和页内偏移量。
假如页大小是 < 4K ,则虚拟地址的位 < 11 到 < 0 包括页内偏移量,位 < 12
和以上的位是页编号。每一次处理器遇到虚拟地址,它必须提取出偏移和虚拟页编
号。处理器必须将虚拟页编号转换到物理的页,并访问物理页的正确偏移处。为此
,处理器使用了页表( < page tables )。
 
    图 3.1 显示了两个进程的虚拟地址空间,进程 X 和进程 Y ,每一个进程拥
有自己的页表。这些页表将每一个进程的虚拟页映射到内存的物理页上。图中显示
进程 < X 的虚拟页号 < 0 映射到物理页号 < 1 ,而进程 < Y 的虚拟页编号 < 1
 映射到物理页号 < 4 。理论上页表每一个条目包括以下信息:


 
    有效标志 表示页表本条目是否有效
 
    本页表条目描述的物理页编号
 
    访问控制信息 描述本页如何使用:是否可以写?是否包括执行代码?
 
    页表通过虚拟页标号作为偏移来访问。虚拟页编号 5 是表中的第 6 个元素(
 0 是第一个元素)
 
    要将虚拟地址转换到物理地址,处理器首先找出虚拟地址的页编号和页内偏移
量。使用 < 2 的幂次的页尺寸,可以用掩码或移位简单地处理。再一次看图 3.
1 ,假设页大小是 0x2000 (十进制 8192 ),进程 Y 的虚拟地址空间的地址是
 0x2194 ,处理器将会把地址转换为虚拟页编号 1 内的偏移量 0x194 。
 
 
 
    处理器使用虚拟页编号作为索引在进程的页表中找到它的页表的条目。如果该
条目有效,处理器从该条目取出物理的页编号。如果本条目无效,就是进程访问了
它的虚拟内存中不存在的区域。在这种情况下,处理器无法解释地址,必须将控制
权传递给操作系统来处理。
 


    处理器具体如何通知操作系统进程在访问无法转换的无效的虚拟地址,这个方
式是和处理器相关的。处理器将这种信息( < page fault )进行传递,操作系统
得到通知,虚拟地址出错,以及出错的原因。
 
    假设这是一个有效的页表条目,处理器取出物理页号并乘以页大小,得到了物
理内存中本页的基础地址。最后,处理器加上它需要的指令或数据的偏移量。
 
    再用上述例子,进程 Y 的虚拟页编号 1 映射到了物理页编号 4 (起始于
0x8000 , 4x 0x2000 ),加上偏移 0x194 ,得到了最终的物理地址 0x8194 。
 
 
    通过这种方式将虚拟地址映射到物理地址,虚拟内存可以用任意顺序映射到系
统的物理内存中。例如,图 < 3.1 中,虚拟内存 < X 的虚拟页编号映射到了物理
页编号 < 1 而虚拟页编号 < 7 虽然在虚拟内存中比虚拟页 < 0 要高,却映射到
了物理页编号 < 0 。这也演示了虚拟内存的一个有趣的副产品:虚拟内存页不必
按指定顺序映射到物理内存中。
 
3.1.1 Demand Paging
 
    因为物理内存比虚拟内存少得多,操作系统必须避免无效率地使用物理内存。
节省物理内存的一种方法是只加载执行程序正在使用的虚拟页。例如:一个数据库
程序可能正在数据库上运行一个查询。在这种情况下,并非所有的数据必须放到内


存中,而只需要正被检查的数据记录。如果这是个查找型的查询,那么加载程序中
增加记录的代码就没什么意义。这种进行访问时才加载虚拟页的技术叫做 <
demand paging 。
 
    当一个进程试图访问当前不在内存中的虚拟地址的时候处理器无法找到引用的
虚拟页对应的页表条目。例如:图 < 3.1 中进程 < X 的页表中没有虚拟页 2 的
条目,所以如果进程 < X 试图从虚拟页 < 2 中的地址读取时,处理器无法将地址
转换为物理地址。这时处理器通知操作系统发生 page fault 。
 
    如果出错的虚拟地址无效意味着进程试图访问它不应该访问的虚拟地址。也许
是程序出错,例如向内存中任意地址写。这种情况下,操作系统会中断它,从而保
护系统中其他的进程。
 
    如果出错的虚拟地址有效但是它所在的页当前不在内存中,操作系统必须从磁
盘映像中将相应的页加载到内存中。相对来讲磁盘存取需要较长时间,所以进程必
须等待直到该页被取到内存中。如果当前有其他系统可以运行,操作系统将选择其
中一个运行。取到的页被写到一个空闲的页面,并将一个有效的虚拟页条目加到进
程的页表中。然后这个进程重新运行发生内存错误的地方的机器指令。这一次虚拟
内存存取进行时,处理器能够将虚拟地址转换到物理地址,所以进程得以继续运行

 
    Linux 使用 < demand paging 技术将可执行映像加载到进程的虚拟内存中。


当一个命令执行时,包含它的文件被打开,它的内容被映射到进程的虚拟内存中。
这个过程是通过修改描述进程内存映射的数据结构来实现,也叫做内存映射( <
memory mapping )。但是,实际上只有映像的第一部分真正放在了物理内存中。
映像的其余部分仍旧在磁盘上。当映像执行时,它产生 < page fault , < Linux
 使用进程的内存映像表来确定映像的那一部分需要加载到内存中执行。
 
3.1.2 Swapping (交换)
 
    如果进程需要将虚拟页放到物理内存中而此时已经没有空闲的物理页,操作系
统必须废弃物理空间中的另一页,为该页让出空间。
 
    如果物理内存中需要废弃的页来自磁盘上的映像或者数据文件,而且没有被写
过所以不需要存储,则该页被废弃。如果进程又需要该页,它可以从映像或数据文
件中再次加载到内存中。
 
    但是,如果该页已经被改变,操作系统必须保留它的内容以便以后进行访问。
这种也叫做 < dirty page ,当它从物理内存中废弃时,被存到一种叫做交换文件
的特殊文件中。因为访问交换文件的速度和访问处理器以及物理内存的速度相比很
慢,操作系统必须判断是将数据页写到磁盘上还是将它们保留在内存中以便下次访
问。
 
    如果决定哪些页需要废弃或者交换的算法效率不高,则会发生颠簸( <


thrashing )。这时,页不断地被写到磁盘上,又被读回,操作系统过于繁忙而无
法执行实际的工作。例如在图 < 3.1 中,如果物理页号 < 1 经常被访问,那么就
不要将它交换到硬盘上。进程正在使用的也叫做工作集 (working set) 。有效的
交换方案应该保证所有进程的工作集都在物理内存中。
 
    Linux 使用 < LRU ( Least Recently Used 最近最少使用)的页面技术来公
平地选择需要从系统中废弃的页面。这种方案将系统中的每一页都赋予一个年龄,
这个年龄在页面存取时改变。页面访问越多,年纪越轻,越少访问,年纪越老越陈
旧。陈旧的页面是交换的好候选。
 
3.1.3 Shared Vitual Memory (共享虚拟内存)
 
    虚拟内存使多个进程可以方便地共享内存。所有的内存访问都是通过页表,每
一个进程都有自己的页表。对于两个共享一个物理内存页的进程,这个物理页编号
必须出现在两个进程的页表中。
 
    图 3.1 显示了两个共享物理页号 4 的进程。对于进程 X 虚拟页号是 4 ,而
对于进程 Y 虚拟页号是 6 。这也表明了共享页的一个有趣的地方:共享的物理页
不必存在共享它的进程的虚拟内存空间的同一个地方。
 
3.1.4 Physical and Vitual Addressing Modes (物理和虚拟寻址模式)
 


    对于操作系统本身而言,运行在虚拟内存中没有什么意义。如果操作系统必须
维护自身的页表,这将会是一场噩梦。大多数多用途的处理器同时支持物理地址模
式和虚拟地址模式。物理寻址模式不需要页表,处理器在这种模式下不需要进行任
何地址转换。 < Linux 核心运行在物理地址模式。
 
    Alpha AXP 处理器没有特殊的物理寻址模式。它将内存空间分为几个区,将其
中两个指定为物理映射地址区。核心的地址空间叫做 < KSEG 地址空间,包括从 <
 0xfffffc0000000000 向上的所有地址。为了执行连接在 KSEG 的代码(核心代码
)或者访问那里的数据,代码必须在核心态执行。 Alpha 上的 Linux 核心连接到
从地址 0xfffffc0000310000 执行。
 
 
 
3.1.5 Access Control (访问控制)  
 
    页表条目也包括访问控制信息。当处理器使用页表条目将进程的虚拟地址映射
到物理地址的时候,它很容易利用访问控制信息控制进程不要用不允许的方式进行
访问。
 
    有很多原因你希望限制对于内存区域的访问。一些内存,比如包含执行代码,
本质上是只读的代码,操作系统应该禁止进程写它的执行代码。反过来,包括数据
的页可以写,但是如果试图执行这段内存应该失败。大多数处理器有两种执行状态


:核心态和用户态。你不希望用户直接执行核心态的代码或者存取核心数据结构,
除非处理器运行在核心态。
 
    访问控制信息放在 PTE ( page table entry )中,而且和具体处理器相关
。图 3.2 显示了 Alpha AXP 的 PTE 。各个位意义如下:
 
V 有效,这个 < PTE 是否有效
 
FOE “ < Fault on Execute ” < 试图执行本页代码时,处理器是否要报告 <
page fault ,并将控制权传递给操作系统。
 
FOW “ Fault on Write” 如上,在试图写本页时产生 page fault
 
FOR “ < fault on read ” 如上,在试图读本页时产生 page fault
 
ASM 地址空间匹配。用于操作系统清除转换缓冲区中的部分条目
 
KRE 核心态的代码可以读本页
 
URE 用户态的代码可以读本页
 
GII 间隔因子,用于将一整块映射到一个转换缓冲条目而非多个。


 
KWE 核心态的代码可以写本页
 
UWE 用户态的代码可以写本页
 
Page frame number 对于 V 位有效的 PTE ,包括了本 PTE 的物理页编号;对于
无效的 PTE ,如果不是 0 ,包括了本页是否在交换文件的信息。
 
以下两位由 Linux 定义并使用
 
_PAGE_DIRTY 如果设置,本页需要写到交换文件中。
 
_PAGE_ACCESSED Linux 使用,标志一页已经访问过
 
3.2 Caches (高速缓存)
 
    如果你用以上理论模型来实现一个系统,它可以工作,但是不会太高效率。操
作系统和处理器的设计师都尽力让系统性能更高。除了使用更快的处理器、内存等
,最好的方法是维护有用信息和数据的高速缓存,这会使一些操作更快。 < Linux
 使用了一系列和高速缓存相关的内存管理技术:
 
    Buffer Cache : Buffer cache 包含了用于块设备驱动程序的数据缓冲区。


这些缓冲区大小固定(例如 512 字节),包括从块设备读出的数据或者要写到块
设备的数据。块设备是只能通过读写固定大小的数据块来访问的设备。所有的硬盘
都是块设备。块设备用设备标识符和要访问的数据块编号作为索引,用来快速定位
数据块。块设备只能通过 < buffer cache 存取。如果数据可以在 < buffer
cache 中找到,那就不需要从物理块设备如硬盘上读取,从而使访问加快。
 
参见 fs/buffer.c
 
 
    Page Cache 用来加快对磁盘上映像和数据的访问。它用于缓存文件的逻辑内
容,一次一页,并通过文件和文件内的偏移来访问。当数据页从磁盘读到内存中时
,被缓存到 < page cache 中。
 
参见 mm/filemap.c
 
    Swap Cache 只有改动过的(或脏 dirty )页才存在交换文件中。只要它们写
到交换文件之后没有再次修改,下一次这些页需要交换出来的时候,就不需要再写
到交换文件中,因为该页已经在交换文件中了,直接废弃该页就可以了。在一个交
换比较厉害的系统,这会节省许多不必要和高代价的磁盘操作。
 
参见 mm/swap_state.c mm/swapfile.c
 


 
 
Hardware Cache: 硬件高速缓存的常见的实现方法是在处理器里面: PTE 的高速
缓存。这种情况下,处理器不需要总是直接读页表,而在需要时把页转换表放在缓
存区里。 < CPU 里有转换表缓冲区 < (TLB Translation Look-aside Buffers)
,放置了系统中一个或多个进程的页表条目的缓存的拷贝。
 
    当引用虚拟地址时,处理区试图在 TLB 中寻找。如果找到了,它就直接将虚
拟地址转换到物理地址,进而对数据执行正确的操作。如果找不到,它就需要操作
系统的帮助。它用信号通知操作系统,发生了 < TLB missing 。一个和系统相关
的机制将这个异常转到操作系统相应的代码来处理。操作系统为这个地址映射生成
新的 < TLB 条目。当异常清除之后,处理器再次尝试转换虚拟地址,这一次将会
成功因为 TLB 中该地址有了一个有效的条目。
 
    高速缓存的副作用(不管是硬件或其他方式的)在于 Linux 必须花大量时间
和空间来维护这些高速缓存区,如果这些高速缓存区崩溃,系统也会崩溃。
 
3.3 Linux Page Tables ( Linux 页表)  
 
    Linux 假定了三级页表。访问的每一个页表包括了下一级页表的页编号。图
3.3 显示了一个虚拟地址如何分为一系列字段:每一个字段提供了在一个页表中的
偏移量。为了将虚拟地址转换为物理地址,处理器必须取得每一级字段的内容,转


换为包括该页表的物理页内的偏移,然后读取下一级页表的页编号。重复三次直到
包括虚拟地址的物理地址的页编号找到为止。然后用虚拟地址中的最后一个字段:
字节偏移量,在页内查找数据。
 
    Linux 运行的每一个平台都必须提供转换宏,让核心处理特定进程的页表。这
样,核心不需要知道页表条目的具体结构或者如何组织。通过这种方式, < Linux
 成功地使用了相同的页表处理程序用于 < Alpha 和 Intel x86 处理器,其中
< Alpha 使用三级页表,而 < Intel 使用二级页表。
 
参见 include/asm/pgtable.h
 
3.4 Page Allocation and Deallocation ( 页的分配和回收 )
 
    系统中对于物理页有大量的需求。例如,当程序映像加载到内存中的时候,操
作系统需要分配页。当程序结束执行并卸载时需要释放这些页。另外为了存放核心
相关的数据结构比如页表自身,也需要物理页。这种用于分配和回收页的机制和数
据结构对于维护虚拟内存子系统的效率也许是最重要的。
 
    系统中的所有的物理页都使用 mem_map 数据结构来描述。这是一个
mem_map_t 结构的链表,在启动时进行初始化。每一个 mem_map_t (容易混淆的
是这个结构也被称为 page 结构)结构描述系统中的一个物理页。重要的字段(至
少对于内存管理而言)是:


 
参见 include/linux/mm.h
 
count 本页用户数目。如果本页由多个进程共享,计数器大于 1 。
 
Age 描述本页的年龄。用于决定本页是否可以废弃或交换出去。
 
Map_nr mem_map_t 描述的物理页编号。
 
    页分配代码使用 free_area 向量来查找空闲的页。整个缓冲管理方案用这种
机制来支持。只要用了这种代码,处理器使用的页的大小和物理页的机制就可以无
关。
 
    每一个 free_area 单元包括页块的信息。数组中的第一个单元描述了单页,
下一个是 2 页大小的块,下一个是 4 页大小的块,以此类推,依次向上都是 2
的倍数。这个链表单元用作队列的开头,有指向 mem_map 数组中页的数据结构的
指针。空闲的页块在这里排队。 Map 是一个跟踪这么大小的页的分配组的位图。
如果页块中的第 < N 块空闲,则位图中的第 < N 位置位。
 
    图 3.4 显示了 free_area 结构。单元 0 有一个空闲页(页编号 0 ),单元
 2 有 2 个 4 页的空闲块,第一个起始于页编号 4 ,第二个起始于页编号 56 。
 


 
3.4.1 Page Allocation ( 页分配 )
 
 
参见 mm/page_alloc.c get_free_pages()
 
    Linux 使用 < Buddy 算法有效地分配和回收页块。页分配代码试图分配一个
由一个或多个物理页组成的块。页分配使用 < 2 的幂数大小的块。这意味着可以
分配 < 1 页大小, < 2 页大小, < 4 页大小的块,依此类推。只要系统有满足
需要的足够的空闲页( nr_free_pages > min_free_pages ),分配代码就会在 <
 free_area 中查找满足需要大小的一个页块。 Free_area 中的每一个单元都有描
述自身大小的页块的占用和空闲情况的位图。例如,数组中的第 < 2 个单元拥有
描述 < 4 页大小的块的空闲和占用的分配图。
 
    这个算法首先找它请求大小的内存页块。它跟踪 free_area 数据结构中的
list 单元队列中的空闲页的链表。如果请求大小的页块没有空闲,就找下一个尺
寸的块( < 2 倍于请求的大小)。继续这一过程一直到遍历了所有的
free_area 或者找到了空闲页块。如果找到的页块大于请求的页块,则该块将被分
开成为合适大小的块。因为所有的块都是 < 2 的幂次的页数组成,所以这个分割
的过程比较简单,你只需要将它平分就可以了。空闲的块则放到适当的队列,而分
配的页块则返回给调用者。
 


 
 
    例如在图 3.4 中,如果请求 2 页的数据块,第一个 4 页块(起始于页编号
 4 )将会被分为两个 2 页块。起始于页号 4 的第一个 2 页块将会被返回给调用
者,而第二个 2 页块(起始于页号 6 )将会排在 free_area 数组中的单元 1 中
 2 页空闲块的队列中。
 
3.4.2 Page Deallocation (页回收)
 
    分配页块的过程中将大的页块分为小的页块,将会使内存更为零散。页回收的
代码只要可能就把页联成大的页块。其实页块的大小很重要( < 2 的幂数),因
为这样才能很容易将页块组成大的页块。
 
    只要一个页块回收,就检查它的相邻或一起的同样大小的页块是否空闲。如果
是这样,就把它和新释放的页块一起组成以一个新的下一个大小的空闲页块。每一
次两个内存页块组合成为更大的页块时,页回收代码都要试图将页块合并成为更大
的块。这样,空闲的页块就会尽可能的大。
 
    例如,在图 3.4 ,如果页号 1 释放,那么它会和已经空闲的页号 0 一起组
合并放在 free_area 的单元 1 中空闲的 2 页块队列中。
 
3.5 Memory Mapping (内存映射)


 
    当一个映像执行时,执行映像的内容必须放在进程的虚拟地址空间中。对于执
行映像连接到的任意共享库,情况也是一样。执行文件实际并没有放到物理内存,
而只是被连接到进程的虚拟内存。这样,只要运行程序引用了映像的部分,这部分
映像就从执行文件中加载到内存中。这种映像和进程虚拟地址空间的连接叫做内存
映射。
 
    每一个进程的虚拟内存用一个 mm_struct 数据结构表示。这包括当前执行的
映像的信息(例如 bash )和指向一组 vm_area_struct 结构的指针。每一个 <
vm_area_struct 的数据结构都描述了内存区域的起始、进程对于内存区域的访问
权限和对于这段内存的操作。这些操作是一组例程, < Linux 用于管理这段虚拟
内存。例如其中一种虚拟内存操作就是当进程试图访问这段虚拟内存时发现(通过
 page fault )内存不在物理内存中所必须执行的正确操作,这个操作叫做 
nopage 操作。 Linux 请求把执行映像的页加载到内存中的时候用到 nopage 操作

 
    当一个执行映像映射到进程的虚拟地址空间时,产生一组 <
vm_area_struct 数据结构。每一个 < vm_area_struct 结构表示执行映像的一部
分:执行代码、初始化数据(变量)、未初始化数据等等。 < Linux 支持一系列
标准的虚拟内存操作,当 < vm_area_struct 数据结构创建时,一组正确的虚拟内
存操作就和它们关联在一起。
 


3.6 Demand Paging
 
    只要执行映像映射到进程的虚拟内存中,它就可以开始运行。因为只有映像的
最开始的部分是放在物理内存中,很快就会访问到还没有放在物理内存的虚拟空间
区。当进程访问没有有效页表条目的虚拟地址的时候,处理器向 < Linux 报告
page fault 。 Page fault 描述了发生 page fault 的虚拟地址和内存访问类型

 
    Linux 必须找到 < page fault 发生的空间区所对应的 < vm_area_struct 数
据结构(用 < Adelson-Velskii and Landis AVL 树型结构连接在一起)。如果找
不到这个虚拟地址对应的 vm_area_struct 结构,说明进程访问了非法的虚拟地址
。 < Linux 将向该进程发信号,发送一个 < SIGSEGV 信号,如果进程没有处理这
个信号,它就会退出。
 
参见 handle_mm_fault() in mm/memory.c
 
    Linux 然后检查 < page faul 的类型和该虚拟内存区所允许的访问类型。如
果进程用非法的方式访问内存,比如写一个它只可以读的区域,也会发出内存错的
信号。
 
    现在 Linux 确定 page fault 是合法的,它必须进行处理。 Linux 必须区分
在交换文件和磁盘映像中的页,它用发生 page fault 的虚拟地址的页表条目来确


定。
 
参见 do_no_page() in mm/memory.c
 
    如果该页的页表条目是无效的但非空,此页是在交换文件中。对于 Alpha AXP
 页表条目来讲,有效位置位但是 < PFN 域非空。这种情况下 < PFN 域存放了此
页在交换文件(以及那一个交换文件)中的位置。页在交换文件中如何处理在本章
后面讨论。
 
    并非所有的 vm_area_struct 数据结构都有一整套虚拟内存操作,而且那些有
特殊的内存操作的也可能没有 < nopang 操作。因为缺省情况下,对于 <
nopage 操作, < Linux 会分配一个新的物理页并创建有效的页表条目。如果这一
段虚拟内存有特殊的 nopage 操作, Linux 会调用这个特殊的代码。
 
    通常的 Linux nopage 操作用于对执行映像的内存映射,并使用 page
cache 将请求的映像页加载到物理内存中。虽然在请求的页调入的物理内存中以后
,进程的页表得到更新,但是也许需要必要的硬件动作来更新这些条目,特别是如
果处理器使用了 < TLB 。既然 page fault 得到了处理,就可以扔在一边,进程
在引起虚拟内存访问错误的指令那里重新运行。
 
参见 mm/filemap.c 中 filemap_nopage()
 


 
 
 
 
3.7 The Linux Page Cache
 
    Linux 的 < page cache 的作用是加速对于磁盘文件的访问。内存映射文件每
一次读入一页,这些页被存放在 page cache 中。图 < 3.6 显示了 page cache
,包括一个指向 < mem_map_t 数据结构的指针向量: < page_hash_table 。 <
Linux 中的每一个文件都用一个 < VFS inode 的数据结构标示(在第 < 9 章描述
),每一个 VFS I 节点都是唯一的并可以完全确定唯一的一个文件。页表的索引
取自 VFS 的 I 节点号和文件中的偏移。
 
参见 linux/pagemap.h
 
    当一页的数据从内存映射文件中读出,例如当 demand paging 时需要放到内
存中的时候,此页通过 < page cache 中读出。如果此页在缓存中,就返回一个指
向 mem_map_t 数据结构的指针给 page fault 的处理代码。否则,此页必须从存
放此文件的文件系统中加载到内存中。 < Linux 分配物理内存并从磁盘文件中读
出该页。如果可能, Linux 会启动对文件下一页的读。这种单页的超前读意味着
如果进程从文件中顺序读数据的话,下一页数据将会在内存中等待。
 


    当程序映像读取和执行的时候 page cache 不断增长。如果页不在需要,将从
缓存中删除。比如不再被任何进程使用的映像。当 < Linux 使用内存的时候,物
理页可能不断减少,这时 Linux 可以减小 page cache 。
 
3.8 Swapping out and Discarding Pages (交换出去和废弃页)
 
    当物理内存缺乏的时候, Linux 内存管理子系统必须试图释放物理页。这个
任务落在核心交换进程上( < kswapd )。核心交换守护进程是一种特殊类型的进
程,一个核心线程。核心线程是没有虚拟内存的进程,以核心态运行在物理地址空
间。核心交换守护进程名字有一点不恰当,因为它不仅仅是将页交换到系统交换文
件上。它的任务是保证系统有足够的空闲页,使内存管理系统有效地运行。
 
    核心交换守护进程( kswapd )在启动时由核心的 init 进程启动,并等待核
心的交换计时器到期。每一次计时器到期,交换进程检查系统中的空闲页数是否太
少。它使用两个变量: < free_pages_high 和 < free_pages_low 来决定是否释
放一些页。只要系统中的空闲页数保持在 free_pages_high 之上,交换进程什么
都不做。它重新睡眠直到它的计时器下一次到期。为了做这种检查,交换进程要考
虑正在向交换文件中写的页数,用 < nr_async_pages 来计数:每一次一页排到队
列中等待写到交换文件中的时候增加,写完的时候减少。 < Free_page_low 和
< free_page_high 是系统启动时间设置的,和系统中的物理页数相关。如果系统
中的空闲页数小于 < free_pages_high 或者比 < free_page_low 还低,核心交换
进程会尝试三种方法来减少系统使用的物理页数:


 
参见 mm/vmscan.c 中的 kswapd()
 
减少 buffer cache 和 page cache 的大小
 
将系统 V 的共享内存页交换出去
 
交换和废弃页
 
    如果系统中的空闲页数低于 free_pages_low ,核心交换进程将试图在下一次
运行前释放 6 页。否则试图释放 3 页。以上的每一种方法都要被尝试直到释放了
足够的页。核心交换进程记录了它上一次使用的释放物理页的方法。每一次运行时
它都会首先尝试上一次成功的方法来释放页。
 
    释放了足够的页之后,交换进程又一次睡眠,直到它的计时器又一次过期。如
果核心交换进程释放页的原因是系统空闲页的数量少于 < free_pages_low ,它只
睡眠平时的一半时间。只要空闲页数大于 free_pages_low ,交换进程就恢复原来
的时间间隔进行检查。
 
3.8.1 Reducing the size of the Page and Buffer Caches
 
    page 和 < buffer cache 中的页是释放到 < free_area 向量中的好选择。 <


 Page Cache ,包含了内存映射文件的页,可能有不必要的数据,占去了系统的内
存。同样, Buffer Cache ,包括了从物理设备读或向物理设备写的数据,也可能
包含了无用的缓冲。当系统中的物理页将要耗尽的时候,废弃这些缓存区中的页相
对比较容易,因为它不需要向物理设备写(不象将页从内存中交换出去)。废弃这
些页不会产生多少有害的副作用,只不过使访问物理设备和内存映射文件时慢一点
。虽然如此,如果公平地废弃这些缓存区中的页,所有的进程受到的影响就是平等
的。
 
    每一次当核心交换进程要缩小这些缓存区时,它要检查 mem_map 页矢量中的
页块,看是否可以从物理内存中废弃。如果系统空闲页太低(比较危险时)而核心
交换进程交换比较厉害,这个检查的页块大小就会更大一些。页块的大小进行循环
检查:每一次试图减少内存映射时都用一个不同的页块大小。这叫做 < clock 算
法,就象钟的时针。整个 < mem_map 页向量都被检查,每次一些页。
 
参见 mm/filemap.c shrink_map()
 
    检查的每一页都要判断缓存在 page cache 或者 buffer cache 中。注意共享
页的废弃这时不考虑,一页不会同时在两个缓存中。如果该页不在这两个缓冲区中
,则 < mem_map 页向量表的下一页被检查。
 
    缓存在 buffer cache ch 中的页(或者说页中的缓冲区被缓存)使缓冲区的
分配和释放更有效。缩小内存映射的代码试图释放包含检查过的页的缓冲区。如果


缓冲区释放了,则包含缓冲区的页也被释放了。如果检查的页是在 < Linux 的
page cache 中,它将从 page cache 中删除并释放。
 
参见 fs/buffer.c free_buffer()
 
    如果这次尝试释放了足够的页,核心交换进程就会继续等待直到下一次被周期
性地唤醒。因为释放的页不属于任何进程的虚拟内存(只是缓存的页),因此不需
要更新进程的页表。如果废弃的缓存页仍然不够,交换进程会试图交换出一些共享
页。
 
3.8.2 Swapping Out System V Shared Memory Pages (交换出系统 V 的共享内
存页)
 
    系统 V 的共享内存是一种进程间通讯的机制,通过两个或多个进程共享虚拟
内存交换信息。进程间如何共享内存在第 < 5 章详细讨论。现在只要讲讲每一块
系统 < V 共享内存都用一个 < shmid_ds 的数据结构描述就足够了。它包括一个
指向 vm_area_struct 链表数据结构的指针,用于共享此内存的每一个进程。 <
Vm_area_struct 数据结构描述了此共享内存在每一个进程中的位置。这个系统
V 的内存中的每一个 vm_area_struct 结构都用 vm_next_shared 和
vm_prev_shared 指针连接在一起。每一个 shmid_ds 数据结构都有一个页表条目
的链表,每一个条目都描述一个共享的虚拟页和物理页的对应关系。
 


    核心交换进程将系统 V 的共享内存页交换出去时也用 clock 算法。它每一次
运行都记录了上一次交换出去了那一块共享内存的那一页。它用两个索引来记录:
第一个是 < shmid_ds 数据结构数组中的索引,第二个是这块共享内存区的页表链
中的索引。这样可以共享内存区的牺牲比较公平。
 
参见 ipc/shm.c shm_swap()
 
    因为一个指定的系统 V 共享内存的虚拟页对应的物理页号包含在每一个共享
这块虚拟内存的进程的页表中,所以核心交换进程必须修改所有的进程的页表来体
现此页已经不在内存而在交换文件中。对于每一个交换出去的共享页,交换进程必
须找到在每一个共享进程的页表中对应的此页的条目(通过查找每一个 <
vm_area_struct 指针)如果在一个进程页表中此共享内存页的条目有效,交换进
程要把它变为无效,并且标记是交换页,同时将此共享页的在用数减 < 1 。交换
出去的系统 < V 共享页表的格式包括一个在 < shmid_ds 数据结构组中的索引和
在此共享内存区中页表条目的索引。
 
    如果所有共享的内存都修改过,页的在用数变为 0 ,这个共享页就可以写到
交换文件中。这个系统 V 共享内存区的 shmid_ds 数据结构指向的页表中此页的
条目将会换成交换出的页表条目。交换出的页表条目无效但是包含一个指向打开的
交换文件的索引和此页在此文件内的偏移量。这个信息用于将此页再取回物理内存
中。
 


3.3 Swapping Out and Discarding Pages
 
    交换进程轮流检查系统中的每一个进程是否可以用于交换。好的候选是可以交
换的进程(有一些不行)并且有可以从内存中交换出去或废弃的一个或多个页。只
有其他方法都不行的时候才会把页从物理内存交换到系统交换文件中。
 
参见 mm/vmscan.c swap_out()
 
    来自于映像文件的执行映像的大部分内容可以从文件中重新读出来。例如:一
个映像的执行指令不会被自身改变,所以不需要写到交换文件中。这些页只是被简
单地废弃。如果再次被进程引用,可以从执行映像再次加载到内存中。
 
    一旦要交换的进程确定下来,交换进程就查看它的所有虚拟内存区域,寻找没
有共享或锁定的区域。 < Linux 不会把选定进程的所有可以交换出去的页都交换
出去,而只是去掉少量的页。如果页在内存中锁定,则不能被交换或废弃。
 
    参见 mm/vmscan.c swap_out_vme() 跟踪进程 mm_struct 中排列的
vm_area_struct 结构中的 vm_next vm_nex 指针。
 
    Linux 的交换算法使用了页的年龄。每一个页都有一个计数器(放在
mem_map_t 数据结构中),告诉核心交换进程此页是否值得交换出去。页不用时变
老,访问时更新。交换进程只交换老的页。缺省地,页第一次分配时年龄赋值为 <


 3 。每一次访问,它的年龄就增加 < 3 ,直到 < 20 。每一次系统交换进程运行
时它将页的年龄减 < 1 使页变老。这个缺省的行为可以更改,所以这些信息(和
其他相关信息)都存放在 < swap_control 数据结构中。
 
    如果页太老 ( 年龄 age = 0) ,交换进程会进一步处理。脏页可以交换出去
, Linux 在描述此页的 PTE 中用一个和体系结构相关的位来描述这种页(见图
3.2 )。但是,并非所有的脏页都需要写到交换文件。每一个进程的虚拟内存区域
都可以拥有自己的交换操作(由 < vm_area_struct 中的 < vm_ops 指针指示),
如果这样,交换进程会用它的这种方式。否则,交换进程会从交换文件中分配一页
,并把此页写到该文件中。
 
    此页的页表条目会用一个无效的条目替换,但是包括了此页在交换文件的信息
:此页所在文件内的偏移和所用的交换文件。不管什么方式交换,原来的物理页被
放回到 < free_area 重释放。干净(或不脏)的页可以被废弃,放回到
free_area 中重用。
 
    如果交换或废弃了足够的可交换进程的页,交换进程重新睡眠。下一次唤醒时
它会考虑系统中的下一个进程。这样,交换进程轻咬去每一个进程的物理页,直到
系统重新达到平衡。这种做法比交换出整个进程更公平。
 
3.9 The Swap Cache (交换缓存)
 


    当把页交换到交换文件时, Linux 会避免写不必要写的页。有时可能一个页
同时存在于交换文件和物理内存中。这发生于一页被交换出内存然后在进程要访问
时又被调入内存的情况下。只要内存中的页没有被写过,交换文件中的拷贝就继续
有效。
 
    Linux 用 < swap cache 来记录这些页。交换缓存是一个页表条目或者系统物
理页的链表。一个交换页有一个页表条目,描述使用的交换文件和它在交换文件中
的位置。如果交换缓存条目非 < 0 ,表示在交换文件中的一页没有被改动。如果
此页后来被改动了(被写),它的条目就从交换缓存中删除)
 
    当 Linux 需要交换一个物理页到交换文件的时候,它查看交换缓存,如果有
此页的有效条目,它不需要把此页写到交换文件。因为内存中的此页从上次读到交
换文件之后没有被修改过。
 
    交换缓存中的条目是曾经交换出去的页表条目。它们被标记为无效,但是包含
了允许 < Linux 找到正确交换文件和交换文件中正确页的信息。
 
3.10 Swapping Page In (交换进)
 
    保存在交换文件中的脏页可能又需要访问。例如:当应用程序要向虚拟内存中
写数据,而此页对应的物理页交换到了交换文件时。访问不在物理内存的虚拟内存
页会引发 < page fault 。 < Page fault 是处理器通知操作系统它不能将虚拟内


存转换到物理内存的信号。因为交换出去后虚拟内存中描述此页的页表条目被标记
为无效。处理器无法处理虚拟地址到物理地址的转换,将控制转回到操作系统,告
诉它发生错误的虚拟地址和错误的原因。这个信息的格式和处理器如何把控制转回
到操作系统是和处理器类型相关的。处理器相关的 < page faule 处理代码必须定
位描述包括出错虚拟地址的虚拟内存区的 vm_area_struct 的数据结构。它通过查
找该进程的 < vm_area_struct 数据结构,直到找到包含了出错的虚拟地址的那一
个。这是对时间要求非常严格的代码,所以一个进程的 < vm_area_struct 数据结
构按照特定的方式排列,使这种查找花费时间尽量少。
 
参见 arch/i386/mm/fault.c do_page_fault()
 
    执行了合适的和处理器相关的动作并找到了包括错误(发生)的虚拟地址的有
效的虚拟内存, < page fault 的处理过程又成为通用的,并可用于 Linux 能运
行的所有处理器。通用的 page fault 处理代码查找错误虚拟地址的页表条目。如
果它找到的页表条目是交换出去的页, < Linux 必须把此页交换回物理内存。交
换出去的页的页表条目的格式和处理器相关,但是所有的处理器都将这些页标为无
效并在页表条目中放进了在交换文件中定位页的必要信息。 < Linux 使用这种信
息把此页调回到物理内存中。
 
参见 mm/memory.c do_no_page()
 
    这时, Linux 知道了错误(发生)的虚拟地址和关于此页交换到哪里去的页


内存中的页交换回到物理内存中。这是 < swapin 操作。如果这块内存中有 <
swapin 操作, < Linux 会使用它。其实,交换出去的系统 < V 的共享内存之所
以需要特殊的处理因为交换的系统 V 的共享内存页的格式和普通交换页的不同。
如果没有 swapin 操作, Linux 假定这是一个普通页,不需要特殊的处理。它分
配一块空闲的物理页并将交换出去的页从交换文件中读进来。关于从交换文件哪里
(和哪一个交换文件)的信息取自无效的页表条目。
 
参见 mm/page_alloc.c swap_in()
 
    如果引起 page fault 的访问不是写访问,页就留在交换缓存中,它的页表条
目标记为不可写。如果后来此页又被写,会产生另一个 < page fault ,这时,此
页被标志为脏页,而它的条目也从交换缓存中删除。如果此页没有被修改而又需要
交换出来, < Linux 就可以避免将此页写到交换文件,因为此页已经在交换文件
中了。
 
    如果将此页从交换文件调回的访问是写访问,这个页就从交换缓存中删除,此
页的页表条目页标记为脏页和可写。


相关文章推荐

Linux Kernel 核心中文手册(5)--进程间通信机制

Linux Kernel 核心中文手册(5)--进程间通信机制

Linux Kernel 核心中文手册(9)--文件系统

Linux Kernel 核心中文手册(9)--文件系统

Linux Kernel 核心中文手册(8)--设备驱动程序

Linux Kernel 核心中文手册--设备驱动程序

Linux Kernel 核心中文手册(1)--硬件基础

Linux Kernel 核心中文手册(1)--硬件基础

Linux Kernel 核心中文手册(15)

Linux Kernel 核心中文手册(15)

Linux Kernel 核心中文手册(7)--中断和中断处理

Linux Kernel 核心中文手册(7)--中断和中断处理

Linux Kernel 核心中文手册(10)--网络

Linux Kernel 核心中文手册(10)--网络

Linux Kernel 核心中文手册(12)--模块

Linux Kernel 核心中文手册(12)--模块

Linux Kernel 核心中文手册(4)--进程

Linux Kernel 核心中文手册(4)--进程

Linux Kernel 核心中文手册(13)--核心源程序

Linux Kernel 核心中文手册(13)--核心源程序
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)