计算机高速缓存的由来(小记)

在讲解高速缓存之前，需要先搞清楚整个计算机系统的硬件组成及我们运行一个helloWorld程序时发生了什么

计算机硬件组成

总线

贯穿整个系统的一组电子导管，携带信息字节并负责在各个部件间传递。通常总线被设计成传送定长的字节快，也就是字。字中的字节数是一个基本的系统参数，各个系统都不尽相同，现在的大多数机器字长要么是4个字节（32位），要么是8个字节（64位）。

I/O设备

I/O(输入/输出)设备是系统与外部世界的联系通道。我们的示例系统包括四个I/O设备；作为用户输入的键盘和鼠标，作为输出的显示器，以及用于长期存储数据和程序的磁盘驱动器（磁盘）。最开始我们写的程序都是在磁盘上。
每个I/O设备都通过一个控制器或适配器与I/O总线相连。

主存

主存是一个临时存储设备，在处理器执行程序时，用来存放程序和程序处理的数据。

处理器

中央处理单元（CPU），简称处理器，是解释（或执行）存储在主存中指令的引擎。处理器的核心是一个大小为一个字的存储设备（或寄存器），称为程序计数器（PC）。在任何时刻，PC都指向主存中的某条机器语言指令(即含有该条指令的地址)。
​

大致了解了计算的硬件都有哪些组成和这些组件的基本作用，接下来就来解释下一个helloWorld开始执行时达到发生了什么。
​

helloWord程序运行时发生了什么

1、初始时，shello程序执行它的指令，等待我们输入一个命令，当我们在键盘上输入字符串"./helloWorld"时，shell程序将字符逐一读入寄存器，再把它放到内存中。




2、最终shell程序会执行一系列指令来加载可执行的helloWorld文件，这些指令将hello目标文件中的代码和数据从磁盘复制到主存，数据包括最终被输出的字符串 “hello world”。
​

利用直接存储器存取（DMA）技术，数据可以不通过处理器而直接从磁盘到达主存，步骤如下：


3、目标文件helloWorld中的代码和数据被加载到主存后，处理器就开始执行hello程序的main程序中的机器语言指令。这些指令将“hello，world”字符串中的字节从注册复制到寄存器文件，再从寄存器文件中复制到显示设备，最终显示在屏幕上。

高速缓存的由来

通过查看一个程序的运行时情况，可以看到系统花费了大量的时间把信息从一个地方挪到另一个地方，磁盘->主存->处理器，这些复制就是开销，减慢了程序“真正”的工作。
因此系统设计者设计了“高速缓存”。
根据**机械原理，**较大的存储设备要比较小的存储设备运行的慢，而快速设备的造价远高于同类的低速设备。比如，一个典型系统上的磁盘可能比主存大1000倍，但是对于处理器而言，从磁盘上读取一个字的时间要比从注册读取的开销大1000万倍、
类似的，一个典型的寄存器文件只存储几百字节的信息，而主存里可存放几十亿字节，然而处理器从寄存器文件中数据比从主存中读取几乎要快100倍，这种差异还在不断增大。
​

针对这种处理器与主存之间的差异，系统设计者采用了更小更快的存储设备，称为高速缓存，作为暂时的集结区域，存放处理器近期可能会需要的信息。高速缓存又分为L1、L2，有比较新的、处理能力更强大的系统甚至有三级高速缓存：L1、L2和L3。位于处理器芯片上的L1高速缓存的容量可以达到数万字节，访问速度几乎和访问寄存器文件一样快，一个容量为数十万到数百万字节的更大的L2高速缓存通过一条特殊的总线连接到处理器，进程访问L2高速缓存的时间要比访问L1高速缓存的时间长5倍，但是这仍然比访问注册的时间快5~10倍。
​

有了高速缓存，系统可以获得一个很大的存储器，同时访问速度也很快，原因是利用了高速缓存的局部性原理，即程序具有访问局部区域里的数据和代码的趋势，通过让高速缓存里存放可能经常访问的数据，大部分的内存操作都能在快速的高速缓存中完成。