Moderna minnesåtkomst schemaläggare som används i GPU:er optimerar vanligtvis för minnesgenomströmning. De utgår underförstått från att alla förfrågningar från olika kärnor är lika viktiga. Vi visar dock att under genomförandet av en delmängd av CUDA-tillämpningar, olika kärnor kan ha olika mängder tolerans mot latens. I synnerhet kärnor med en större andel warp väntar på att data ska komma tillbaka från DRAM är mindre benägna att tolerera latensen av en enastående minne begäran. En sådan begäran är mer kritisk än en begäran från andra. Baserat på denna iakttagelse introducerar detta dokument en ny minnesschemaläggare, kallad (C)ritica(L)ity (A)ware (M)emory (S)cheduler (CLAMS), som tar hänsyn till latenstoleransen hos de kärnor som genererar minnesförfrågningar. Den viktigaste idén är att använda fraktionen av kritiska förfrågningar i minnesförfrågan buffert för att växla mellan schemaläggning politik optimerad för kritiskhet och lokalitet. Om denna fraktion ligger under ett tröskelvärde prioriterar CLAMS kritiska krav för att säkerställa att kärnor som inte tolererar latens betjänas snabbare. Annars, CLAMS optimerar för lokalitet, förutser att det finns för många kritiska förfrågningar och prioritera en över en annan skulle inte avsevärt gynna prestanda. Först presenterar vi en core-kritisk estimeringsmekanism för att bestämma kritiska kärnor och önskemål, och sedan diskuterar vi frågor relaterade till att hitta en balans mellan kritiskitet och lokalitet i minnesschemaläggaren. Vi utvecklar gradvis tre varianter av CLAMS, och visar att Dynamic CLAMS ger betydligt högre prestanda, över en mängd olika arbetsbelastningar, än de allmänt anställda GPU-minne schemaläggare optimeras enbart för lokalitet. Resultaten tyder på att ett GPU-minnessystem som beaktar både kärnkritiskitet och DRAM-åtkomstplats kan ge betydande förbättringar i prestanda.
Jog m.fl. REF observerar latenstoleransen för GPU-kärnor är olika för vissa applikationer och de föreslår en policy för minnesschemaläggning för att prioritera kritiska minnesförfrågningar.
Exploiting Core Criticality for Enhanced GPU Performance
{'venue': "SIGMETRICS '16", 'journal': None, 'mag_field_of_study': ['Computer Science']}