Abstract-Tävlingen för Exascale computing har naturligtvis lett den nuvarande tekniken för att konvergera till multi-CPU / multi-GPU datorer, baserat på tusentals processorer och GPUs sammankopplade med PCI-Express bussar eller sammankopplingsnät. För att utnyttja denna höga datorkraft måste programmerare lösa frågan om schemaläggning av parallella program på hybridarkitekturer. Och eftersom prestandan hos en GPU ökar mycket snabbare än genomströmningen av en PCI-buss, måste dataöverföringarna hanteras effektivt av schemaläggaren. Detta papper riktar sig till multi-GPU compute noder, där flera GPU:er är anslutna till samma maskin. För att övervinna begränsningarna för dataöverföring på sådana plattformar beräknar de tillgängliga programvarorna, vanligtvis före utförandet, en kartläggning av de uppgifter som respekterar deras beroenden och minimerar de globala dataöverföringarna. Ett sådant tillvägagångssätt är alltför stelbent och kan inte anpassas till eventuella variationer i systemet eller till applikationens belastning. Vi föreslår en lösning som är ortogonal till ovan nämnda: förlängningar av XKaapi programvara stack som gör det möjligt att utnyttja full prestanda av ett multi-GPU-system genom asynkron GPU uppgifter. XKaapi schemalägger uppgifter genom att använda en standard Work Stealing algoritm och körtiden utnyttjar effektivt samtidiga GPU-operationer. Förlängningarna av drifttiden gör det möjligt att överlappa dataöverföringarna och uppgiftsutförandena på nuvarande generation av GPU:er. Vi visar att den överlappande förmågan är minst lika viktig som att beräkna ett schemaläggningsbeslut för att minska slutförandet av ett parallellt program. Våra experiment på två täta linjära algebra problem (Matrix Product and Cholesky factorization) visar att vår lösning är mycket konkurrenskraftig med andra programvaror baserade på statisk schemaläggning. Dessutom kan vi upprätthålla toppprestandan (310 GFlop/s) på DGEMM, även för matriser som inte kan lagras helt i ett GPU-minne. Med åtta GPU-enheter arkiverar vi en uppfart på 6.74 med avseende på en GPU. Prestandan av vår Cholesky factorization, med mer komplexa beroenden mellan uppgifter, överträffar state of the art single-GPU MAGMA kod.
I ett nyligen utfört arbete REF visade vi att vårt dynamiska arbete att stjäla utan heuristisk (märkt "default" i experimentellt avsnitt) når samma nivå som StarPU på matrisprodukten och Cholesky factorization med en sekventiell panel factorization.
Exploiting Concurrent GPU Operations for Efficient Work Stealing on Multi-GPUs
{'venue': '2012 IEEE 24th International Symposium on Computer Architecture and High Performance Computing', 'journal': '2012 IEEE 24th International Symposium on Computer Architecture and High Performance Computing', 'mag_field_of_study': ['Computer Science']}