计算机工程与科学投稿网址,(计算机工程与科学投稿模板.doc

(计算机工程与科学投稿模板

一种低开销的异构可变相联度

二级Cache结构

A Low-overhead Heterogeneous Variable Way L2 Cache

***，***，***

Y***, Y*** , Z***

(国防科学技术大学计算机学院，湖南长沙 410073)

(School of Computer Science, National University of Defense Technology, Changsha, Hunan 410073, China)

摘 要：V-Way Cache结构利用存储访问在组之间分布不均匀性，根据需求动态调整组相联度，具有比传统Cache结构更有效的资源利用率。然而，V-Way Cache结构组相联度调整以增大Tag阵列容量为代价，增加了面积、功耗等开销，且Tag阵列利用率不高。本文对V-Way Cache结构进行优化，提出一种低开销的异构可变相联度Cache结构HV-Way Cache。HV-Way Cache采用异构Tag阵列组织，通过允许多个组共享Tag项资源以缩减Tag路容量；Tag项替换信息以组为单位组织，挑选最久没有被使用的项作为被替换项。使用Cacti和Simics模拟器进行模拟实验，结果表明HV-Way Cache结构能以很少的性能损失实现面积、功耗开销的极大降低。

Abstract: Exploiting non-uniform distribution of cache accesses among sets, V-Way cache allows varying ways in sets with the run-time demands and outperforms conventional set-associative cache in resource utilization. However, the tag array in V-Way cache is expanded which induce large area and power overhead. Considering the tag array is under-utilized in V-Way cache, we propose a low-overhead heterogeneous variable way cache, named HV-Way cache. HV-Way cache adopts heterogeneous tag array and cut down capacity of tag ways by sets sharing in the same way. Maintaining tag replacement information in per-set granularity, HV-Way cache selects the least recently used tag entries for eviction. Experiment results of Cacti and Simics simulators show that HV-Way cache brings down the latency, area and power overhead greatly at the expense of small performance loss.

关键词： Cache；低开销；异构结构；替换策略

Key words: Cache; Low-overhead; Heterogeneous Organization; Replacement Strategy

中图分类号： TP302

1 引言

目前广泛使用的多路组相联Cache结构将Cache空间分成若干组，每组包含相同数目Cache块，使用LRU替换策略管理资源。由于存储访问在Cache组之间的分布呈现不均匀性，传统结构等同对待所有组的方式造成了资源浪费。近年来，不少学者研究异构相联度Cache结构[1]-[4]，允许各个组实际包含的数据块数目变化，以提高资源利用率。根据管理策略的不同，现有异构相联度Cache结构大致可以分成两类：一类基于LRU替换策略管理，如HWS[1](Heterogeneous Way-Size Cache)、SBC[2](Set Balancing Cache)等。LRU替换策略的基本出发点是局部性原理。二级Cache上存储访问的局部性特征经过一级Cache层次过滤后，LRU替换策略并不能有效管理Cache资源，还存在进一步提升性能的空间。另一类基于全局替换策略管理，如IIC[3](Indirect Index Cache)、V-Way Cache[4](Va