De senaste åren har en ökning av storlek och beräkningskrav för utbildning och slutsatser med neurala nätverk. För närvarande är en gemensam strategi för att möta dessa krav att använda en heterogen distribuerad miljö med en blandning av hårdvaruenheter som CPU och GPU. Viktigt, beslutet att placera delar av de neurala modellerna på enheter görs ofta av mänskliga experter baserat på enkla heuristik och intuitioner. I detta dokument föreslår vi en metod som lär sig att optimera enhetsplaceringen för TensorFlow beräkningsgrafer. Nyckeln till vår metod är användningen av en sekvens-till-sekvens-modell för att förutsäga vilka undergrupper av operationer i en TensorFlow-graf som ska köras på vilken av de tillgängliga enheterna. Verkställighetstiden för de förutsagda placeringarna används sedan som belöningssignal för att optimera parametrarna för sekvens-till-sekvens-modellen. Vårt huvudresultat är att på Inception-V3 för ImageNet klassificering, och på RNN LSTM, för språkmodellering och neural maskinöversättning, finner vår modell icke-triviala enhetsplaceringar som överträffar handgjorda heuristiker och traditionella algoritmiska metoder.
I REF föreslogs en metod för att stärka inlärningen för att optimera placeringen av enheten för TensorFlow-grafer.
Device Placement Optimization with Reinforcement Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}