CPU多级缓存
局部性原理:
- 时间局部性:如果某个数据被访问,那么在不久的将来它很可能再次被访问;
- 空间局部性:如果某个数据被访问,那么它相邻的数据很快也可能被访问。
缓存一致性(MESI)
定义了四种cache life的四种状态:
状态 | 描述 |
---|---|
M(Modified) | 这行数据有效,数据被修改了,和内存中的数据不一致,数据只存在于本Cache中。 |
E(Exclusive) | 这行数据有效,数据和内存中的数据一致,数据只存在于本Cache中。 |
S(Shared) | 这行数据有效,数据和内存中的数据一致,数据存在于很多Cache中。 |
I(Invalid) | 这行数据无效。 |
CPU多级缓存——乱序执行优化
硬件内存架构:
通常情况下,当一个CPU需要读取主存时,它会将主存的部分读到CPU缓存中。它甚至可能将缓存中的部分内容读到它的内部寄存器中,然后在寄存器中执行操作。当CPU需要将结果写回到主存中去时,它会将内部寄存器的值刷新到缓存中,然后在某个时间点将值刷新回主存。
一些问题:(多线程环境下尤其)
缓存一致性问题: 当多个处理器的运算任务都涉及同一块主内存区域时,将可能导致各自的缓存数据不一致的情况,如果真的发生这种情况,需要各个处理器访问缓存时都遵循一些协议,在读写时要根据协议来进行操作,这类协议有MSI、MESI等。
指令重排序问题: 为了使得处理器内部的运算单元能尽量被充分利用,处