Abstract-djup inlärning har populariserats av sina senaste framgångar på utmanande artificiell intelligens problem. En av orsakerna till dess dominans är också en pågående utmaning: behovet av enorma mängder beräkningskraft. Hårdvaruarkitekter har svarat genom att föreslå ett brett spektrum av lovande idéer, men hittills har merparten av arbetet fokuserat på specifika algoritmer inom något snäva tillämpningsområden. Även om deras specificitet inte minskar dessa tillvägagångssätt finns det ett tydligt behov av mer flexibla lösningar. Vi tror att det första steget är att undersöka egenskaperna hos de senaste modellerna från hela det djupa lärandet. Följaktligen har vi samlat Fathom: en samling av åtta arketypiska djuplärande arbetsbelastningar för studier. Var och en av dessa modeller kommer från ett seminal arbete i det djupa lärande samhället, allt från det välkända djupa konvolutionella neurala nätverket av Krizhevsky et al., till de mer exotiska minnesnätverk från Facebooks AI forskargrupp. Fathom har släppts online, och detta dokument fokuserar på att förstå de grundläggande prestandaegenskaperna hos varje modell. Vi använder en uppsättning tillämpnings-nivå modellering verktyg som byggts runt TensorFlow djupt lärande ramar för att analysera beteendet hos Fathom arbetsbelastningar. Vi presenterar en uppdelning av var tiden spenderas, likheterna mellan våra modellers prestandaprofiler, en analys av beteende i slutledning och träning, och effekterna av parallellism på skalning.
Fathom REF ger åtta djuplärande arbetsbelastningar som genomförs med TensorFlow.
Fathom: reference workloads for modern deep learning methods
{'venue': '2016 IEEE International Symposium on Workload Characterization (IISWC)', 'journal': '2016 IEEE International Symposium on Workload Characterization (IISWC)', 'mag_field_of_study': ['Computer Science']}