cache利用率最高的映射_Cache与内存的映射

1. 理解Cache Line

在大家印象中Cache Line就是一个数据块，能有什么理解难度呢？不妨再反问一下自己：真的是这样吗？

上篇文章中就说到Cache本身的容量远远小于内存容量，CPU为了能正确定位数据所在的CacheLine还需要做很多工作。简单来说可以将Cache Line理解成一个带标签的存储槽，下面以一个直观的例子来说明：

小A同学坐在座位上，如果老师想检查小A的作业的话就需要先定位到小A所在的座位号，然后再从小A的座位上拿到小A作业本。在这个例子中，小A的作业本就对应Cache Line中的数据，老师就是CPU Core，小A其实对应着内存地址（TAG），小A的座位就是Cache Line本身，而座位号就是Cache Line在Cache中的位置(索引，Index)，教室里所有的座位就可以理解为整个Cache，而学校里所有的学生则是全部的系统内存。

上图就是Cache的内部组织，除了TAG和数据外，还有两个标志位，V表示此CacheLine中的数据是否是有效的，即座位上有没有学生，D表示CacheLine中的数据有没有被修改过，修改过的数据是不能直接清除的，需要写回到主存（内存）。

2. Cache与内存的映射

映射方式有3种：

1. 直接映射 (Direct Mapping)
2. 组相联 (K-Way Set Associative Mapping)
3. 全相联 (Full Associative Mapping)

2.1 全相联

继续以学生和座位为例，正常情况下我们并不限定位置，大家随便坐，先到先得。老师如果想检查一个同学的作业的话，也可以一个一个来找，即线性搜索，当然此举必然花费老师很多时间。另外一点需要强调，学生并不是老老实实坐在座位上的，不断会有学生进来或离开，也会有同学出去后又进来但前后的坐位并不相同的情况，这样的话“线性搜索”将不再可能。

想像最常见的一个场景，老师并不会主动来找，而是直接喊这个同学的学号（名字可能会有重名，但学号不会），所有的学生在听到名字后同时判断老师叫的是不是自己，只有被叫到的同学才会应答。在听到老师的请求后所有的学生同时并行判断的动作，对应于CPU及硬件实现就是一个并行的比较电路，而比较的内容则是座位上的同学和老师叫的学号，分别对应着TAG和内存地址。

这个例子中的随机编排座位的方式就是全相联映射。全相联映射方式的定位操作是最高效的，但是硬件成本亦最高，毕竟要实现复杂的并行比较电路，只有容量较小且对性能至关重要的缓存才会使用，如CPU的内存管理单元 (MMU, Mmemory Management Unit) 的TLB缓存 (Translation Lookaside Buffer)，TLB中存放的是虚拟地址与物理地址的1:1的转换关系。

2.2 直接映射

假设上面例子中的教室只有20个座位，编号为0-19，全校共有400名学生，学号分别为0-399。直接映射方式的求是座位不能随便选择，而是通过学号和所有座位数的余数决定，即学号为0、20、40、60…的同学只能坐在0号座位上，同样学号为1、21、41、61…的同学只能争1号座位，后来的同学会将正坐在位置上的同学挤出去，如果1号和21号同学都要来教室的话就会发生两人不断被挤出去的情况，这就是Cache的颠簸效应（Cache Thrashing）。

2.3 组相联

为了解决直接映射的颠簸效应，遂引入了组相联映射。假设学校共有5个系，每个系均有80名学生，那我们可以这样安排座位，一系的学生只能选择0/5/10/15这4个座，二系则是1/6/11/16，依次类推，如下图所示：每个系有4个座位，这4个座位是没有顺序的，即本系的学生随意坐，但全系的80名学生将争抢这4个座位，这种分为5组的映射方式就是4路组相连映射，4路的意思是每组中有4个座位，即4个CacheLine。现实中CPU Cache无论是组数还是相联度（路）均是2的幂指数，不会出现本例中奇数5的情形。

直接映射方式其实是组相联映射的一种特例，亦称作是单路组相联。

2.4 特别说明

更详细的阐述可参考链接1 [蜗窝科技: 浅谈Cache Memory]，作者smcdef通过举例来说明三种方式的实现细节，作图精美，本文不再做过多说明。

3. Cache的分类及访问流程

目前主流的CPU，如Intel及AMD的桌面或服务器平台的CPU都是支持分页的，即物理内存的管理是以页划分和管理的。X86平台的页大小通常是4K，即4096字节。CPU层所操作的内存地址称作是虚拟地址（逻辑地址），并不是物理的内存地址，从虚拟地址至物理地址的翻译由硬件MMU来执行。Cache与MMU的位置关系直接决定了Cache的分类：如果Cache相对MMU离CORE的距离更近，则此类Cache被称作为逻辑Cache；相反则称作是物理Cache。下图是L1、L2及LLC与MMU的关系，L1是集成在CORE内部的，所以可以得出L1是逻辑Cache，而L2和LLC则是物理Cache。

如果再加上TAG的取值，取物理地址或虚拟地址，又可以组合成4种情况：

3.1. PIPT (Physically Indexed Virtually Tagged）

下图是2路组相联的PIPT的示例，CacheLine大小为64字节，即6个比特，组索引（SET）由S个比特来编址，剩余的部分即为标签项（TAG），CPU通过组索引来定位此地址所在Cache组，然后通过两组比较电路进行TAG值的并发比较，然后即可确定Cache所在位置，当然也有可能出现没有命中的情况。

L2及LLC，以及早期的CPU的L1均是使用PIPT的方式，这是因为内存的物理地址是唯一的，这就大大简单化PIPT的实现逻辑。

3.2. VIVT (Virtually Indexed Virtually Tagged）

VIVT的Index和Tag均使用虚拟地址，全程不需要MMU的参与，是性能最好的定位方式，但是由于虚拟地址的特性会导致歧义和别名的问题，最终决定了VIVT方式的不可行：

歧义 (Ambiguity，亦称Homonyms问题)：不同的进程拥有相同的虚拟地址空间，虚拟化平台上不同的虚拟机亦是同样的情况。从而会导致相同的虚拟地址（不同进程或不同虚拟机）所对应的物理页面不同的，VIVT的方式将不能正确区分。

别名 (Alias)：是指同一个物理页映射至不同的虚拟地址，即同一个物理地址将有多个虚拟地址的别名。多个别名的情况下VIVT将会映射至不同的CacheLine，将不能保证数据的一致性。

3.3. VIPT (Virtually Indexed Physically Tagged）

CPU层的指令所操作的均是虚拟地址，使用虚拟地址作为索引来直接进行Cache的定位不必经过MMU的转换。此时Cache Set的定位和MMU的转换过程是并发的，定位到指定Cache Set之后再进行两个Cache Line的Tag的对比，此时两个Tag的比对也是并行处理的。

3.4. PIVT (Physically Indexed Virtually Tagged）

PIVT方式相比PIPT和VIPT来说没有任何优势，性能上必须等MMU转换完成之后，而且在数据一致性上无法处理好别名问题。

4. L1 Cache (VIPT)的别名问题

在Cache与内存的映射关系上，考虑到成本及性能，多采用组相联方式；在CacheLine的定位和访问方式上，L1 Cache多是VIPT，而L2及LLC是PIPT。以Intel Pentinum G5500T为例：L1是8路组相联，大小为32K; L2是4路组相联，大小为256K;LLC即L3则是16路组相联，大小为4M。

L1采用的是VIPT映射方式，虽然VIPT方式通过物理地址TAG解决了歧义的问题，但别名的问题依然存在，是怎样解决的呢？

实际上L1 Cache的每个Cache Set的数量正好限定在 (PAGE_SIZE/CACHE_LINE) 之内的，以G5500T为例，32K/(8*64) = 4K/64 = 64。虚拟地址最低6位为CacheLine中的偏移；位6-11共6位是组索引，6+6正好是12，即一个4K PAGE的大小，从而可推论出不管虚拟地址是多少，任意内存页面的固定偏移总是映射到相同的Cache Set中，而TAG的选择正是物理地址中的是12-47，可以理解为PFN，即每一个物理页面的唯一帧号，所以同一物理页的不同的虚拟地址最终将定位到同一个Cache Set中的同一个Cache Line上。

L1是8路组相联的，也就是说一个Cache Set中容纳了8个Cache Line，由上面的结论可得出：这8个Cache Line将分别来自于不同的物理页。最后大家不妨想一个问题，如果要将L1 Cache从32K增加到64K的话，怎样构造L1的相联度及Cache Set组数才是合理的？有多少种组合？

5. 参考连接

1. 蜗窝科技: 浅谈Cache Memory
2. CHIPRESS：What are the types of caches based on index and tag bits?