Grafikprocessorer, eller GPU, har nyligen i stor utsträckning använts som acceleratorer i delade miljöer som kluster och moln. I sådana delade miljöer skickas många kärnor till GPU:er från olika användare, och genomströmning är ett viktigt mått för prestanda och total ägandekostnad. Trots nyligen förbättrat stöd för körtid för samtidiga GPU-kärnutföranden, kan GPU kraftigt underutnyttjas, vilket resulterar i suboptimalt dataflöde. I detta dokument föreslår vi Kernelet, ett runtime-system för att förbättra genomströmningen av samtidiga kärnutföranden på GPU. Kernelet omfattar transparent minneshantering och PCI-e-dataöverföringstekniker, samt dynamisk skivning och schemaläggningstekniker för kärnutföranden. Med skivning delar Kernelet upp en GPU-kärna i flera underkärnor (nämligen skivor). Varje skiva har tonfiskbar beläggning för att möjliggöra samläggning med andra skivor för högt GPU-utnyttjande. Vi utvecklar en ny Markov kedjebaserad prestandamodell för att vägleda planeringsbeslutet. Våra experimentella resultat visar upp till 31 procent och 23 procent förbättring av prestandan på NVIDIA Tesla C2050 respektive GTX680 GPU.
Kernelet REF delar upp en GPU-kärna i flera skivor, av vilka var och en har variabel beläggning för att tillåta samläggning med andra skivor.
Kernelet: High-Throughput GPU Kernel Executions with Dynamic Slicing and Scheduling
{'venue': 'IEEE Transactions on Parallel and Distributed Systems', 'journal': 'IEEE Transactions on Parallel and Distributed Systems', 'mag_field_of_study': ['Computer Science']}