一种低开销的异构可变相联度二级Cache结构ALow-overheadHeterogeneousVariableWayL2Cache***，***，***Y***,Y***,Z***（国防科学技术大学计算机学院，湖南长沙410073）(SchoolofComputerScience,NationalUniversityofDefenseTechnology,Changsha,Hunan410073,China)摘要：V-WayCache结构利用存储访问在组之间分布不均匀性，根据需求动态调整组相联度，具有比传统Cache结构更有效的资源利用率。然而，V-WayCache结构组相联度调整以增大Tag阵列容量为代价，增加了面积、功耗等开销，且Tag阵列利用率不高。本文对V-WayCache结构进行优化，提出一种低开销的异构可变相联度Cache结构HV-WayCache。HV-WayCache采用异构Tag阵列组织，通过允许多个组共享Tag项资源以缩减Tag路容量；Tag项替换信息以组为单位组织，挑选最久没有被使用的项作为被替换项。使用Cacti和Simics模拟器进行模拟实验，结果表明HV-WayCache结构能以很少的性能损失实现面积、功耗开销的极大降低。Abstract:Exploitingnon-uniformdistributionofcacheaccessesamongsets,V-Waycacheallowsvaryingwaysinsetswiththerun-timedemandsandoutperformsconventionalset-associativecacheinresourceutilization.However,thetagarrayinV-Waycacheisexpandedwhichinducelargeareaandpoweroverhead.Consideringthetagarrayisunder-utilizedinV-Waycache,weproposealow-overheadheterogeneousvariablewaycache,namedHV-Waycache.HV-Waycacheadoptsheterogeneoustagarrayandcutdowncapacityoftagwaysbysetssharinginthesameway.Maintainingtagreplacementinformationinper-setgranularity,HV-Waycacheselectstheleastrecentlyusedtagentriesforeviction.ExperimentresultsofCactiandSimicssimulatorsshowthatHV-Waycachebringsdownthelatency,areaandpoweroverheadgreatlyattheexpenseofsmallperformanceloss.关键词：Cache；低开销；异构结构；替换策略Keywords:Cache;Low-overhead;HeterogeneousOrganization;ReplacementStrategy中图分类号：TP3021引言目前广泛使用的多路组相联Cache结构将Cache空间分成若干组，每组包含相同数目Cache块，使用LRU替换策略管理资源。由于存储访问在Cache组之间的分布呈现不均匀性，传统结构等同对待所有组的方式造成了资源浪费。近年来，不少学者研究异构相联度Cache结构[1]-[4]，允许各个组实际包含的数据块数目变化，以提高资源利用率。根据管理策略的不同，现有异构相联度Cache结构大致可以分成两类：一类基于LRU替换策略管理，如HWS[1]（HeterogeneousWay-SizeCache）、SBC[2]（SetBalancingCache）等。LRU替换策略的基本出发点是局部性原理。二级Cache上存储访问的局部性特征经过一级Cache层次过滤后，LRU替换策略并不能有效管理Cache资源，还存在进一步提升性能的空间。另一类基于全局替换策略管理，如IIC[3]（IndirectIndexCache）、V-WayCache[4]（Variable-WayCache）等。与LRU替换策略相比，全局替换策略可以减轻局部性特征被过滤的影响，但是实现开销很大。IIC和V-WayCache都以增加Tag阵列容量为代价实现一定程度上全局替换。二级Cache结构设计应该在失效率、访问延迟、面积、功耗等因素之间权衡。针对V-WayCache中Tag阵列利用率低、开销大的问题，本文对其进行优化，提出一种低开销的异构可变相联度Cache结构（HeterogeneousVariableWayCache，简称为HV-WayCache）。它采用异构Tag阵列组织方式，允许各个Tag路中包含的组的数目不同；使用Reuse替换策略管理数据阵列，允许各个Tag组中对应的数据项数目不同。分别使用Cacti[5]和Simics[6]模拟器进行开销、性能分析，实验结果表明，HV-WayCache能以很少的性能损失获得面积、功耗开销的大大降低。2异构可变相联度Cache结构2.1整体框架图1HV-WayCache整体结构框图HV-WayCache结构对V-WayCache结构的Tag阵列进行优化，采用异构Tag阵列组织形式，实现Tag和数据阵列更加灵活的配置，整体框图如图1所示。HV-WayCache中Tag和数据阵列分离，Tag项和数据项之间使用双向指针关联。Tag阵列采用异构多路组相联形式，基于LRU替换策略管理，每路包含的组...