高速缓存简析

1.高速缓存

最初程序放在磁盘上，在加载程序及数据时，它们被复制到主存；在运行程序的，指令从主存复制到处理器。复制过程就是很大的开销，减慢了程序运行真正的时间，因此，如何使这些复制操作尽可能快的执行，这就离不开高速缓存。

处理器从寄存器读取数据比从主存中读取要快上100倍，而且加快处理器的运行速度比加快主存的运行速度要容易且便宜。针对处理器与主存的差异，系统设计人员采用更小更快的存储设备，称高速缓存存储器(cache memory，简称cache或高速缓存)，存换处理器近期可能需要的信息。如图1.3所示：

比较新的系统甚至有三级高速缓存：L1，L2和L3。以两级高速缓存为例，L1和L2用一种静态随机访问存储器(SRAM)的硬件技术实现的(主存由动态随机存取存储器芯片组成)。处理器芯片上的L1高速缓存的容量可达数万字节，访问的速度几乎和访问寄存器一样快，而L2高速缓存容量可达数十万甚至数百万字节，它是通过特殊的总线连接到处理器，虽然进程访问L2比访问L1的速度慢上5倍，但是比访问主存快上5~10倍(CASPP-Page.13)而且存储能力更强。因为程序具有访问局部区域内的数据与代码的趋势，因此，让高速缓存存放可能经常访问的数据，大部分内存操作都能在其中完成。

2.存储器层次结构

每个计算机系统的存储设备都组织成一个存储器层次结构，如图1.4所示：

在这个层次结构中，从上至下，访问速度越来越慢，存储空间越来越大，每个字节的造价越来越便宜，寄存器位于最顶层，也就是第0级记为L0。存储器层次结构中，上一层存储器作为低一层存储器的高速缓存，寄存器是L1的高速缓存，L1是L2的高速缓存，L2是L3的高速缓存，L3是主存的高速缓存，而主存又是磁盘的高速缓存。在某些分布式文件系统中，本地磁盘就是存储在其他系统中磁盘上数据的高速缓存。因此可以运用不同的高速缓存来提升程序的性能