Grafikbearbetningsenheter (GPU) utnyttjar massiv trådnivå parallellism (TLP) för att uppnå hög beräkningsgenomströmning och dölja lång minneslatens. Nya studier har dock visat att GPU prestanda inte skala med GPU beläggning eller de grader av TLP som en GPU stöder, särskilt för minnesintensiva arbetsbelastningar. Den nuvarande förståelsen pekar på L1 D-cache stridighet eller off-chip minne bandbredd. I denna artikel utför vi en ny skalbarhetsanalys ur perspektivet av genomströmningsanvändning av olika GPU-komponenter, inklusive off-chip DRAM, flera nivåer av caches, och sammanlänkningen mellan L1 D-caches och L2-partitioner. Vi visar att sammanlänkningens bandbredd är en kritisk gräns för GPU-prestanda skalbarhet. För de program som inte har mättat genomströmningsutnyttjande på en viss resurs, deras prestanda skalar väl med ökad TLP. För att förbättra TLP för sådana tillämpningar på ett effektivt sätt föreslår vi ett snabbt sammanhangsbyte. När ett warp-/trådblock (TB) fördröjs av en lång latensoperation spills sammanhanget för warp/TB för att spara på chip-resursen så att en ny warp/TB kan lanseras. Den utbytta warpen/TB kopplas tillbaka när en annan warp/TB är färdig eller utkopplad. Med detta finkorniga snabba sammanhangsbyte kan högre TLP stödjas utan att öka storleken på kritiska resurser som registerfilen. Vårt experiment visar att prestandan kan förbättras med upp till 47% och ett geometriskt medelvärde på 22% för en uppsättning applikationer med omättad genomströmning. Jämfört med det senaste TLP-förbättringssystemet uppnår vårt föreslagna system i genomsnitt 12 % högre resultat och 16 % för omättade riktmärken.
GPUDuet REF är ett nytt arbete som utnyttjar sammanhangsbyte för att uppnå högre nivåer av TLP.
GPU Performance vs. Thread-Level Parallelism: Scalability Analysis and a Novel Way to Improve TLP
{'venue': 'TACO', 'journal': None, 'mag_field_of_study': ['Computer Science']}