De vetenskapliga datortillämpningarna anpassar sig snabbt för att utnyttja den massiva parallelliteten hos GPU i storskaliga kluster. De nuvarande hybridprogrammeringsmodellerna kräver dock att programutvecklare uttryckligen hanterar de delade värd- och GPU-minnena, vilket minskar både effektivitet och produktivitet. Följaktligen har GPU-integrerade MPI-lösningar, såsom MPI-ACC och MVAPICH2-GPU, utvecklats som ger enhetliga programmeringsgränssnitt och optimerade implementationer för end-to-end datakommunikation mellan processorer och GPU:er. Hittills saknas dock en djupgående prestandakarakterisering av de nya optimeringsutrymmena eller produktivitetseffekten av sådana GPU-integrerade kommunikationssystem för vetenskapliga tillämpningar. I denna uppsats studerar vi effekten av GPU-integrerad MPI på vetenskapliga tillämpningar från områden som epidemiologisimulering och seismologimodellering, och vi diskuterar de lärdomar som dragits. Vi använder MPI-ACC som exempel på implementering och visar hur programmeraren sömlöst kan välja mellan antingen CPU eller GPU som den logiska kommunikationsslutpunkten, beroende på programmets beräkningskrav. MPI-ACC uppmuntrar också programmerare att utforska nya tillämpningsspecifika optimeringar, såsom internode CPU-GPU-kommunikation med samtidiga CPU-GPU-beräkningar, vilket kan förbättra det totala klusterutnyttjandet. Dessutom implementerar MPI-ACC internt skalbara minneshanteringstekniker, vilket frikopplar minnesoptimering på låg nivå från applikationerna och gör dem skalbara och portabla över flera arkitekturer. Experimentella resultat från ett toppmodernt kluster med hundratals GPU visar att MPI-ACC-drivna nya tillämpningsspecifika optimeringar kan förbättra prestandan för en epidemiologisimulering med upp till 61,6 % och prestandan för en seismologimodellering med upp till 44 % jämfört med traditionella hybrida MPI+GPU-implementationer. Vi drar slutsatsen att GPU-integrerad MPI avsevärt förbättrar programmerare producBefogenhet att göra digitala eller hårda kopior av hela eller delar av detta arbete för personligt eller klassrum användning beviljas utan avgift, förutsatt att kopior inte görs eller distribueras för vinst eller kommersiella fördelar och att kopior har detta meddelande och den fullständiga hänvisning på första sidan. För att kopiera på annat sätt, för att återpublicera, för att posta på servrar eller för att omfördela till listor, krävs tidigare specifik behörighet och/eller avgift.
MPI-ACC REF syftar till att tillhandahålla integrerat MPI-stöd för acceleratorer så att programmeraren enkelt kan köra kod på en CPU eller GPU.
On the efficacy of GPU-integrated MPI for scientific applications
{'venue': "HPDC '13", 'journal': None, 'mag_field_of_study': ['Computer Science']}