多层次cache的包含关系

Cache一般都是至少两层cache。多层次间cache的包含关系主要有三种：

Inclusive : L2包含所有的L1 valid cacheline，L2需要记录所有L1的状态信息。

Exclusive: L1 和L2 包含的valid cacheline互斥，两个L1之间仍然可以包含相同的valid cacheline。

NENI / NINE （non-exclusive non-inclusive）: L1 和L2 之间可以有相同的valid cacheline，但又不是完全的inclusive关系。

 

Inclusive相对比较简单，L2 miss时，不需要snoop其他L1，延迟小。

Exclusive 形式下，L2 可称之为 victim buffer/cache，AMD有exclusive的设计。

Exclusive在L2 miss时，需要snoop其他L1，因为L2不知道其他L1是否包含此cacheline的拷贝。

Exclusive的优势在于充分利用cache size，对每个core来讲，可使用的size = L1 + L2 cache size

NENI在L2 evict时，不需要back invalid L1；NENI多用于三级cache架构中的L1/L2。

以一个两层cache (三个L1 ，一个L2)为例，三种包含关系的示意图如下。

 

三种包含关系示意图

 

参考 https://en.wikipedia.org/wiki/Cache_inclusion_policy ，三种包含策略的具体操作流程如下图所示。

Inclusive policy

 

Exclusive policy

 

NENI policy