Detta papper presenterar nya cacheoptimeringar för massivt parallella, genomströmningsorienterade arkitekturer som GPU:er. L1-datacache (L1 D-cache) är viktiga resurser för att ge åtkomst till data med hög bandbredd och låg latens. Det stora antalet samtidiga förfrågningar från singleinstruction multi-thread (SIMT) kärnor gör dock den begränsade kapaciteten för L1 D-kacker en prestanda och energi flaskhals, särskilt för minnesintensiva applikationer. Vi observerar att minnesåtkomstströmmarna till L1 D-cache för många applikationer innehåller en betydande mängd förfrågningar med låg återanvändning, vilket avsevärt minskar cacheeffektiviteten. Befintliga GPU-cachehanteringssystem är antingen baserade på villkorliga/reaktiva lösningar eller hit-rate-baserade konstruktioner som är särskilt utvecklade för CPU-cache för sista nivån, vilket kan begränsa den totala prestandan. För att klara dessa utmaningar föreslår vi en effektiv lokalövervakningsmekanism för att dynamiskt filtrera åtkomstströmmen vid cacheinsättning så att endast data med hög återanvändning och korta återanvändningsavstånd lagras i L1 D-cachen. Speciellt presenterar vi en design som integrerar lokal filtrering baserad på återanvändning egenskaper GPU arbetsbelastningar i den frikopplade tagglager av den befintliga L1 D-cache genom enkla och kostnadseffektiva hårdvarutillägg. Resultaten visar att vår föreslagna design dramatiskt kan minska cache-innehållet och uppnå upp till 56,8% och i genomsnitt 30,3% prestandaförbättringar jämfört med baslinjearkitekturen, för en rad mycket optimerade cache-ovänliga applikationer med mindre yta overhead och bättre energieffektivitet. Vår design överträffar också betydligt den toppmoderna CPU och GPU förbikoppling system (särskilt för oregelbundna applikationer), utan att generera extra L2 och DRAM nivå strid.
Nyligen, Li et al. föreslog en lokal övervakningsmekanism för att bättre utnyttja L1-datacachen för högre prestanda REF.
Locality-Driven Dynamic GPU Cache Bypassing
{'venue': "ICS '15", 'journal': None, 'mag_field_of_study': ['Computer Science']}