Abstract-This paper presenterar en fördjupad analys av hur systembuller påverkar storskaliga parallella tillämpningar i realistiska miljöer. Vår analytiska modell visar att inte bara kollektiv verksamhet utan även point-to-point kommunikation påverkar applikationens känslighet för buller. Vi presenterar en simuleringsverktygskedja som injicerar bullerförseningar från spår som samlats in på vanliga storskaliga arkitekturer i en LogGPS-simulering och ger nya insikter i skalning av applikationer i bullriga miljöer. Vi undersöker kollektiv verksamhet med upp till 1 miljon processer och tre applikationer (Sweep3D, AMG och POP) med upp till 32 000 processer. Vi visar att den skala på vilken buller blir en flaskhals är systemspecifik och beror på bullerstrukturen. Simuleringar med olika nätverkshastigheter visar att ett 10x snabbare nätverk inte förbättrar applikationens skalbarhet. Vi kvantifierar buller och drar slutsatsen att våra verktyg kan användas för att ställa in bullersignaturer i ett specifikt system. Effekten av operativsystem och arkitektoniska omkostnader (systembuller) i massiv skala är i allt högre grad oroande. Även små lokala förseningar på beräkna noder, som kan orsakas av avbrott, operativsystem daemons, eller till och med cache eller sid missar, kan påverka globala program prestanda avsevärt [1]. Sådana lokala förseningar orsakar ofta mindre än 1 % omkostnader per process, men allvarliga prestandaförluster kan uppstå om buller sprids (förstärks) genom kommunikation eller global synkronisering. Tidigare analyser utgår i allmänhet från att prestandapåverkan av systembuller ökar i skala och Tsafrir et al. [2] även tyder på att inverkan av mycket låg frekvens bullerskalor linjärt med systemets storlek. Petrini, Kerbyson och Pakin [1] rapporterar att den parallella prestandan för SAGE på ett fast antal ASCI Q noder var högst när SAGE endast använde tre av de fyra processorer per nod. Det visade sig att "sonansen" mellan applikationens kollektiva kommunikation och det felkonfigurerade systemet orsakade förseningar under varje iteration. Jones, Brenner och Fier [3] observerade liknande effekter med kollektiv kommunikation och rapporterar också att det under vissa omständigheter är fördelaktigt att lämna en processor ledig. En teoretisk analys av bullerets påverkan på kollektiv kommunikation [4] tyder på att bullerets inverkan beror på typen av fördelning och deras parametrar och kan i värsta fall (exponentiell fördelning) skala linjärt med antalet processer. Ferreira, Bridges och Brightwell använder bullerinsprutningstekniker för att bedöma bullerpåverkan på flera tillämpningar [5]. Beckman m.fl. [6] Analyserade prestandan på BlueGene/L och drog slutsatsen att de flesta bullerkällor kan undvikas i mycket specialiserade system. Tidigare arbeten var antingen begränsade till experimentell analys av specifika arkitekturer med insprutning av artificiellt genererat buller (fast frekvens), eller till rent teoretiska analyser som antar ett särskilt kollektivt mönster [4]. Dessa tidigare resultat visar svårighetsgraden av problemet men tillåter lite generalisering och ger begränsad insikt i tillämpningen beteende på riktiga maskiner. Effekter, t.ex. bullerabsorption, beskrivs men undersöks inte vidare [5]. Ett gemensamt tema i alla tidigare verk är att titta på kollektiv kommunikation som det största problemet och ofta modellera sådana operationer som strikt synkronisera ogenomskinliga enheter. Standarden Message Passing Interface (MPI) [7]-modeller som används idag. Synkroniseringsegenskaperna hos ett program beror på den kollektiva algoritmen, point-topoint-meddelanden och systemets nätverksparametrar. Vi valde en simuleringsmetod som liknar Sottile et al.'s [8] och förbättra den genom att använda bullerspår från befintliga system i kombination med detaljerad simulering och extrapolering av kollektiva operationer och parallella tillämpningsspår. Vår simulator gör det möjligt för oss att simulera applikationer på HPC-system som inte enkelt kan nås i full skala eller som ännu inte finns och det gör också att vi kan undersöka effekten av att ändra nätverkshastigheter och andra systemparametrar. I detta arbete introducerar vi en öppen mät- och simuleringsram som mäter OS-buller och bedömer dess påverkan på storskaliga tillämpningar genom simulering. Vi bygger på en detaljerad modell för beroenden i applikationer och synkronisering (jfr. Lamports händer-före relation) som beaktar kollektiva såväl som punkt-till-punkt mönster av verkliga tillämpningar. Vi utför simuleringar för en uppsättning applikationer och system, förklarar fenomen som observerats av
I ett annat arbete baserat på simuleringsresultat påpekade REF att både kollektiva och punkt-till-punkt-operationer kan påverka känsligheten hos parallella tillämpningar för systembuller och att det blockerande kommunikationsläget har en förstärkande effekt av systembuller.
Characterizing the Influence of System Noise on Large-Scale Applications by Simulation
{'venue': '2010 ACM/IEEE International Conference for High Performance Computing, Networking, Storage and Analysis', 'journal': '2010 ACM/IEEE International Conference for High Performance Computing, Networking, Storage and Analysis', 'mag_field_of_study': ['Computer Science']}