Djupa neurala nätverk (DNNs) har genomgått en ökning i popularitet med konsekventa framsteg i toppmoderna för uppgifter inklusive bildigenkänning, behandling av naturligt språk och taligenkänning. Dessa näts beräkningsdyra karaktär har lett till en mångfald av implementationer som offrar abstraktion för hög prestanda. I denna artikel presenterar vi Latte, ett domänspecifikt språk för DNNs som ger en naturlig abstraktion för att ange nya lager utan att offra prestanda. Användare av Latte uttrycker DNN som ensembler av neuroner med kopplingar mellan dem. Latte kompilatorn syntetiserar ett program baserat på användarspecifikationen, tillämpar en uppsättning domänspecifika och allmänna optimeringar, och avger effektiv maskinkod för heterogena arkitekturer. Latte innehåller även en kommunikationsruntime för distribuerad minnesdata-parallelism. Med hjälp av nätverk som beskrivs med hjälp av Latte, visar vi 3-6× speedup över Caffe (C++/MKL) på de tre state-of-the-art ImageNet modeller som kör på en Intel Xeon E5-2699 v3 x86 CPU.
Latte REF är ett domänspecifikt språk och körtid för kodning av djupa neurala nätverk.
Latte: a language, compiler, and runtime for elegant and efficient deep neural networks
{'venue': 'PLDI 2016', 'journal': None, 'mag_field_of_study': ['Computer Science']}