高速缓冲存储器(Cache)

$$高速缓冲存储器(Cache)$$

背景

随着技术的发展，$CPU$和主存的运算速度的变化并不是一致的，之间发生了很大的速度差异。为了调和这种速度的差异，$需要一个速度介于两者之间的装置作为中介$，这就是$Cache$。

$Cache$出现是为了避免$CPU$出现“$空等$”的现象。

程序访问的局部性原理

1. 时间的局部性：当前正在使用的数据，在不久的将来应该还会被使用，所以要放入到$Cache$中便于下一次使用。
2. 空间的局部性：当前正在使用的数据，它相邻周围的数据，在不久的将来也有可能会被使用到，所以需要放入到$Cache$中做准备。

$Cache$的工作原理

1. $主存与缓存的编址$
   
   $①.$ 主存与$Cache$中的存储空间都是进行分块的，并且这个$块的大小完全一致$，但是主存中块的数量是是远远多于$Cache$中块的数量的。$②.$主存与$Cache$进行数据交换的时候，块的先后顺序保持高度的一致。$③.$$Cache$中在标记，可以记录主存中哪一个块进入到了$Cache$中，当主存向$Cache$中传输数据的时候也会扫描所有的标记查询是否已经传输过。

2. $命中(Hit)与未命中(Miss)$
   主存中的块数远大于$Cache$中的块数，注定了主存中所有的数据不能够全部放入到$Cache$中。
   ①. $命中(Hit)$：$CPU$要访问的主存块已经存储到了$Cache$中，并且使用标记记录存储了主存块号。$主存块与缓存块建立了对应的关系$。
   ②. $未命中(Miss)$：$CPU$要访问的地址没有放入到$Cache$中，只能够由$CPU$亲自进行访问。$主存块与Cache之间没有建立联系$。

3. $Cache命中率$
   $CPU$想要访问的信息在$Cache$中的比率，与$Cache$中的$容量$和$块长$有关。

4. $Cache-主存系统的效率$
   $$e=\frac{访问Cache的时间}{平均访问时间}\ast 100\%$$
   

$①.$ 可以知道$e$的范围是在$0-\frac{t_c}{t_m}$。$②.$ $CPU$访问$Cache$和主存是$并行的$。

$Cache的基本结构$

1. $Cache存储体：$
   $Cache$中分号的块空间都是存储在存储体中。
2. $地址映射与变换机构：$
   映射是主存中的块应该放到$Cache$中的那个一个块，变换则是将主存中块在$Cache$中对应块的查找。
3. $替换机构：$
   主存中由新的块即将放入$Cache$中，但是$Cache$中的存储空间已经满了，需要替换机构进行相应块的替换来存储新的块。

$Cache$的$读写$操作

$读：$

$写：$
根据$Cache$与主存再写入数据时候的一致性可以分成两种方式：

1. $写直达法：$
   进行写操作的时候既写入$Cache$又写入主存。时时刻刻保证$主存和Cache中写入的数据同步$。写操作时间就是访问主存的时候，$Cache$退出的时候，因为同步进行写入，所以对于主存也无需其他操作。
   💥💥💥但是会频繁让访问主存。
2. $写回法：$
   进行写操作的时候，只将数据写入到$Cache$中，而不写入主存，当$Cache$中的数据被替换的时候，才会将数据写入主存。$允许了Cache与主存写入数据的时候不同步$。写操作时间就是访问$Cache$的时间。$Cache$退出的时候，还需要将被替换的块中的数据写入主存。
   💥💥💥复杂性很高

$Cache的改进$

$Cache的地址映射$

$地址映射：$内存中的数据块如果存放到$Cache$中，那么可以存放到哪些地址中。

$Cache-主存的地址映射$

1. $直接映射：$
   
   💥💥💥$①.主存储体分块：$
   根据$Cache$存储体的大小，将主存储体的空间分为若干个与$Cache$存储体等大的块。每个块中的字块数与$Cache$中字块数也完全相同。
   💥💥💥$②.直接映射体现：$
   $对于主存储体中每个块中的字块，都只能够放在Cache存储体中相应的字块。$如图中主存储体中三个蓝色块只能够放入$Cache$中对应的蓝色块。
   💥💥💥$③.地址标记：$
   
   $m$位用来标记数据块的地址，$b$位用作偏移量，标记到底是数据块中哪个字块。
   💥💥💥$④.比较器：$
   
   $Hit/Miss$判断器，主存数据写入$Cache$的时候需要判断$Cache$中是否已经记录了该数据块的数据，$通过遍历标记(地址)来判断$。
   $⑤.特征：$结构实现非常简单，但是$Cache$块的利用率比较低，而且出现冲突的概率非常大。
   

2. $全相联映射：$
   
   $①.全相联映射体现：$主存储器中的每个字块都可以$任意$的放入到$Cache$中的字块中。
   $②.地址确定：$
   
   $③.特征：$$Cache$空间利用率极高，映射的时候所需要的比较流程非常麻烦，比较的次数很多。

3. $族相联映射$
   $(直接相联和全相联的折中)$
   
   $①.Cache块和主存块中的分组：$在$Cache$数据存储体中，$将多个字块放在一起存储形成多个整体数据块$。每个数据块都有自己的编号。在主存储器中根据$Cache$中数据块中字块个数进行相应分组。
   $②.结构特征：$$组内全映射，组间直接映射$
   图中主存储器中蓝色的块，只能够放在$Cache$中的$0$号地址对应的数据块($组间直接映射$)。但是在$0$号地址对应的数据块内的字块中，可以随意进行放置($组内全映射$)。
   $③.地址确定：$
   

$映射总结$

$替换算法$

如果$Cache$中的数据块已经填满了，这个时候来了新的数据块需要填入，那么$Cache$就需要对已经填入的数据块进行替换操作：

1. $FIFO(先进先出算法)$
   默认先进入的数据块是已经用完的数据了，直接替换这种数据即可。
   $❌$这个算法有着十分明显的不足
2. $LRU(近期最少使用算法)$
   寻找到$最近一段时间最少使用的数据块$，将这个数据块中的数据进行替换。