När GPU:s beräkningskapacitet växer blir deras minneshierarki allt mer en flaskhals. Nuvarande GPU-minneshierarkier använder grovkorniga minnesåtkomster för att utnyttja rumslig lokalitet, maximera maximal bandbredd, förenkla kontrollen och minska cachemetadatalagring. Dessa grovkorniga minnesåtkomster, dock, är en dålig match för framväxande GPU-applikationer med oregelbunden kontroll flöde och minnesåtkomst mönster. Samtidigt, den massiva multi-threading av GPUs och enkelheten i deras cache hierarkier gör CPU-specifika minnessystem förbättringar ineffektiva för att förbättra prestandan för oregelbundna GPU-applikationer. Vi designar och utvärderar en lokalt medveten minneshierarki för genomströmningsprocessorer, t.ex. GPU-processorer. Vår föreslagna design behåller fördelarna med grovkornig åtkomst för rumsligt och temporalt lokala program samtidigt som selektiv finkornig tillgång till minne. Genom att anpassa åtkomstgranularitet, minnesbandbredd och energi minskas för data med låg rumslig/temporal lokalitet utan att slösa kontroll overheads eller prefetching potential för data med hög rumslig lokalitet. Som sådan förbättrar vår lokala minneshierarki GPU-prestanda, energieffektivitet och minnesgenomströmning för ett stort antal tillämpningar.
LAMAR REF utvecklar en maskinvaruprediktor för att anpassa åtkomstgranulariteten till L1 cache, upprätthålla fördelen av rumslig lokalitet och temporal lokalitet genom grovkorniga åtkomster och minska överfång genom finkorniga åtkomster.
A locality-aware memory hierarchy for energy-efficient GPU architectures
{'venue': 'MICRO-46', 'journal': None, 'mag_field_of_study': ['Computer Science']}