I detta dokument presenterar vi tekniker som samordnar trådschemaläggningen och förhämtningsbesluten i en GPGPU-arkitektur (General Purpose Graphics Processing Unit) för att bättre tolerera långa minneslatenser. Vi visar att befintliga warp schemaläggningspolicyer i GPGPU-arkitekturer inte effektivt kan införliva data förhämtning. Huvudorsaken är att de schemalägger på varandra följande warp, som sannolikt kommer åt närliggande cacheblock och därmed prefetch exakt för varandra, back-to-back i på varandra följande cykler. Detta antingen 1) orsakar prefetcher att genereras av en warp för nära den tid deras motsvarande adresser faktiskt krävs av en annan warp, eller 2) kräver sofistikerade prefetcher konstruktioner för att korrekt förutsäga de adresser som krävs av en framtida "far-ahead" warp medan du utför den aktuella warp. Vi föreslår en ny prefetch-aware warp schemaläggning politik som övervinner dessa problem. Den viktigaste idén är att i tid separera schemaläggningen av på varandra följande warps så att de inte utförs back-to-back. Vi visar att denna politik inte bara gör det möjligt för en enkel prefetcher att vara effektiv när det gäller att tolerera minneslatenser, utan också förbättrar minnesbank parallellism, även när prefetching inte används. Experimentella utvärderingar av en rad olika applikationer på en 30-kärnig simulerad GPGPU-plattform visar att den prefetch-aware warp schemaläggaren ger 25% och 7% genomsnittlig prestandaförbättring jämfört med baslinje som använder prefetching i samband med, respektive den allmänt anställda round-robin schemaläggaren eller den nyligen föreslagna två-nivå warp schemaläggaren. Dessutom, när prefetching inte används, ger prefetch-aware warp schemaläggaren högre prestanda än båda dessa baslinje schemaläggare eftersom det bättre utnyttjar minnesbank parallellism.
Jog REF föreslog en warp schemaläggare för att möjliggöra effektiva förhämtningspolicyer.
Orchestrated scheduling and prefetching for GPGPUs
{'venue': 'ISCA', 'journal': None, 'mag_field_of_study': ['Computer Science']}