什么是时间局部性和空间局部性

西门吹雪在编程

于 2024-09-15 10:43:04 发布

阅读量389

点赞数 9

分类专栏：计算机基础文章标签： java 前端数据库

本文链接：https://blog.csdn.net/m0_55213370/article/details/142281260

版权

计算机基础专栏收录该内容

108 篇文章 0 订阅

订阅专栏

**时间局部性（Temporal Locality）**指的是如果一个程序在某个时刻访问了某个存储位置或指令，那么在不久的将来很可能再次访问同一存储位置或指令。换句话说，近期使用过的数据或指令很可能会被重复使用。

**空间局部性（Spatial Locality）**则是指如果一个程序访问了某个存储位置或指令，那么在不久的将来很可能访问与其存储位置相邻的数据或指令。这意味着程序倾向于访问彼此临近的内存地址。

这些概念源自于程序执行的统计特性，也是计算机体系结构中缓存设计的基础。为了更好地理解这些抽象概念，我们可以通过真实世界的例子来说明。

真实世界的例子：

想象我们在阅读一本书。当我们阅读某一页时，很可能在接下来的几分钟内再次查看这一页或附近的页面。这就类似于时间局部性，因为我们在短时间内多次查看同一页面。此外，我们阅读的内容通常是连贯的，会顺序阅读下一页或前一页，这与空间局部性相似，因为我们访问的是相邻的页面。

在编程中的体现：

循环访问数组：

考虑以下代码片段：
```
for (int i = 0; i < N; i++) {
    sum += array[i];
}
```
在这个循环中，程序依次访问 array 数组的每个元素。由于数组在内存中是连续存储的，因此访问 array[i] 和 array[i+1] 是相邻的内存地址。这体现了空间局部性。
函数调用和返回：

当一个函数被调用时，程序需要将返回地址和局部变量等信息压入栈中。由于程序可能在短时间内多次调用同一函数，这就体现了时间局部性。

对实际编程开发的影响：

理解时间局部性和空间局部性对于编写高性能的程序至关重要。现代处理器有多级缓存，利用这两个局部性可以提高缓存命中率，减少内存访问延迟。

具体影响和优化策略：

数据结构选择： 优先使用数组或连续内存块存储数据。例如，在处理大量数据时，使用 std::vector 而不是 std::list，因为前者在内存中是连续的，更能利用空间局部性。
算法设计： 设计算法时，要考虑数据访问模式。例如，在矩阵运算中，按行访问通常比按列访问更有效，因为内存是按行存储的。
循环优化： 通过循环展开、循环交换等技术，改善数据访问的局部性。

案例研究：矩阵乘法优化

矩阵乘法是科学计算和图形处理中的基本操作。标准的矩阵乘法实现可能无法充分利用缓存。

普通实现：

for (int i = 0; i < N; i++) {
   for (int j = 0; j < N; j++) {
       for (int k = 0; k < N; k++) {
           C[i][j] += A[i][k] * B[k][j];
       }
   }
}

在这个实现中，访问矩阵 B[k][j] 时，k 在内循环中变化，而 j 保持不变。这可能导致缓存不命中，因为内存中 B 的存储是按行优先的。

优化后的实现：

通过调整循环顺序，可以提高空间局部性：

for (int i = 0; i < N; i++) {
   for (int k = 0; k < N; k++) {
       for (int j = 0; j < N; j++) {
           C[i][j] += A[i][k] * B[k][j];
       }
   }
}

现在，内循环中 j 连续变化，访问 C[i][j] 和 B[k][j] 时，地址是连续的，提升了空间局部性。

块矩阵乘法：

进一步的优化是使用块矩阵乘法，将大矩阵分割成小块处理，以适应缓存大小。

int blockSize = ...; // 根据缓存大小选择
for (int i0 = 0; i0 < N; i0 += blockSize) {
   for (int j0 = 0; j0 < N; j0 += blockSize) {
       for (int k0 = 0; k0 < N; k0 += blockSize) {
           for (int i = i0; i < min(i0 + blockSize, N); i++) {
               for (int j = j0; j < min(j0 + blockSize, N); j++) {
                   for (int k = k0; k < min(k0 + blockSize, N); k++) {
                       C[i][j] += A[i][k] * B[k][j];
                   }
               }
           }
       }
   }
}