计算机科学基础 -- 指令缓存体系

sz66cm

于 2024-09-14 00:06:20 发布

阅读量378

点赞数 9

文章标签：缓存计算机科学

本文链接：https://blog.csdn.net/sz66cm/article/details/142236587

版权

指令缓存体系

1. 指令缓存的作用与目的

指令缓存（Instruction Cache，简称 I-cache）是为了提高 CPU 取指速度而设计的。其主要作用是：

缓存从主存中加载的指令，减少每次访问主存的频率。
提高程序执行过程中指令获取的效率，减少指令获取的延迟。

2. 指令缓存的工作流程

指令缓存的基本工作流程如下：

CPU 发出指令请求：CPU 需要从内存中获取即将执行的指令。
缓存查找：指令缓存根据指令地址查找相应的缓存条目，判断是否命中缓存。
- 如果命中，直接从缓存读取指令。
- 如果未命中，从主存中加载指令，并将其存入缓存。
替换策略：当缓存已满时，采用某种替换策略（如 LRU 或 FIFO）替换掉较旧或不常用的缓存条目。

3. 指令缓存的结构

指令缓存的基本组成结构包括：

缓存行（Cache Line）：存储指令的最小单位，通常为 32B 或 64B。
组相联（Set-Associative）：将缓存划分为多个组，每组包含多个缓存行。根据指令地址选择相应的缓存组，并在组内查找匹配的条目。
标签（Tag）：每个缓存行都有一个标签，表示存储在该行中的指令对应的内存地址。
索引与偏移：通过指令地址的索引位定位缓存组，标签位用于匹配，偏移位确定指令在缓存行中的具体位置。

4. 指令缓存的工作示例

场景描述

假设有一个程序包含一个循环，执行类似计算。程序每次执行时，CPU 需要多次获取相同的指令。

for (int i = 0; i < N; i++) {
    array[i] = array[i] * array[i];
}

这段代码将通过CPU执行，它对应的机器指令通常是顺序排列的。对于这个程序来说，CPU每次执行一轮循环体时，需要读取相应的指令来计算数组元素的平方。

指令缓存的工作流程：

CPU开始执行程序：在程序开始执行时，CPU首先从主存中加载该程序的指令，初始化循环变量 i，并开始循环。
指令缓存第一次访问：假设这段循环中的所有指令从未加载过到缓存中，因此 CPU 需要从主存中读取这些指令。这时，缓存会出现未命中（cache miss）。由于缓存未命中，CPU会从主存加载这段指令到缓存中。这些指令可能会存储在 L1 指令缓存（I-cache）中。
未命中处理：CPU 从主存中读取循环的指令（包括指令地址）并将它们存放在缓存中。
缓存行填充：假设缓存行的大小是64字节，这意味着多个相邻的指令会一起被加载到缓存行中。即使只有几条指令实际用到了，整个64字节的数据都会被缓存。
后续循环执行——命中缓存：在后续的循环中，CPU需要重复执行相同的指令，即：更新 i 的值，读取数组元素，进行平方运算，然后写回结果。
因为这些指令在前一次循环时已经被加载到 L1 指令缓存中，接下来的每次循环都会命中缓存。CPU 只需从缓存中获取这些指令，而不需要再次访问主存，从而大大减少了指令读取的延迟，提升了执行效率。
指令缓存命中：当 CPU 再次请求这些指令时，直接从 L1 I-cache 获取，这比从主存中获取要快得多。
循环结束时：当 i 达到 N 时，程序结束。尽管程序结束了，缓存中的指令仍然会保留一段时间，直到它们被其它新的指令替换。