程序的局部性原理

程序的局部性原理

基本概念

程序倾向于引用临近于其他最近引用过的数据项的数据项，或最近引用过的数据项本身，这种倾向性被称为局部性原理。

• 时间局部性
  • 良好时间局部性的程序中，被引用过一次的内存位置很可能在不远的将来再被多次引用
• 空间局部性
  • 良好空间局部性的程序中，一个内存位置被引用，程序很可能在不远的将来引用其附近的一个内存位置

从硬件和操作系统层面看如何利用局部性

• 硬件层
  • 局部性原理允许硬件引入高速缓存存储器这种小而快速的存储器来存储最近被引用的指令和数据，从而提高对主存的访问速度
• 操作系统
  • 允许系统使用主存作为虚拟地址空间作为最近被引用块的高速缓存

从存储结构看如何利用局部性

存储器层次结构的中心思想是，对于每个 k，位于 k 层的更快更小的存储设备作为位于 k + 1 层的更大更慢的存储设备的缓存。

• 时间局部性
  • 同一数据对象可能被多次使用。一旦一个数据对象在第一次不命中时被复制到缓存中，我们就会期望后面对目标有一系列的访问命中。因为缓存比低一层的存储设备更快，对后面的命中的服务会比最开始的不命中的快很多。
• 空间局部性
  • 块通常包含多个数据对象。我们会期望后面对该块中其他对象的访问能补偿不命中后复制该块的花费。