Deep-Learning (DL) computing frameworks är beroende av hur data tas emot och kontrolleras. I själva verket, under utbildningen, ett betydande stort antal relativt små filer först laddas och förbehandlas på processorer och sedan flyttas till accelerator för beräkning. Dessutom utförs kontroll- och omstartsoperationer för att göra det möjligt för DL computing frameworks att starta om snabbt från en kontrollpunkt. På grund av detta påverkar I/O DL-tillämpningarnas prestanda. I detta arbete karakteriserar vi I/O-prestandan och skalningen av TensorFlow, ett programmeringsramverk med öppen källkod utvecklat av Google och speciellt utformat för att lösa DL-problem. För att mäta TensorFlow I/O prestanda, vi först utforma en mikro-benchmark för att mäta TensorFlow-avläsningar, och sedan använda en TensorFlow mini-application baserat på AlexNet för att mäta prestandakostnaden för I/O och checkpointing i TensorFlow. För att förbättra kontrollen designar och implementerar vi en sprängbuffert. Vi finner att öka antalet trådar ökar TensorFlow bandbredd med maximalt 2,3× och 7,8× på våra referensmiljöer. Användningen av tensorFlow prefetcher resulterar i en fullständig överlappning av beräkning på accelerator och ingångsrörledning på CPU eliminerar den effektiva kostnaden för I/O på den totala prestandan. Användningen av en sprängbuffert för att kontrollera till en snabb liten kapacitet lagring och kopiera asynkront kontrollpunkterna till en långsammare stor lagringskapacitet resulterade i en prestandaförbättring på 2,6× när det gäller att kontrollera direkt till långsammare lagring på vår referensmiljö.
Chien m.fl. REF analyserade effekterna av antalet trådar, sprängbuffert för kontrollpunkt och prefetcher på TensorFlow prestanda med Xeon-baserade multi-GPU superdatorer.
Characterizing Deep-Learning I/O Workloads in TensorFlow
{'venue': '2018 IEEE/ACM 3rd International Workshop on Parallel Data Storage & Data Intensive Scalable Computing Systems (PDSW-DISCS)', 'journal': '2018 IEEE/ACM 3rd International Workshop on Parallel Data Storage & Data Intensive Scalable Computing Systems (PDSW-DISCS)', 'mag_field_of_study': ['Computer Science']}