Vi introducerar ett inlärningsbaserat ramverk för att optimera tensorprogram för djup inlärningsbelastning. Effektiva implementeringar av tensoroperatörer, såsom matrismultiplikation och högdimensionell konvolution, är nyckelfaktorer för effektiva system för djupinlärning. Nuvarande system är dock beroende av manuellt optimerade bibliotek, t.ex. cuDNN, som endast stöder ett smalt utbud av GPU-servrar av serverklass. Sådan tillit begränsar tillämpligheten av grafoptimering på hög nivå och medför betydande tekniska kostnader när man använder sig av nya hårdvarumål. Vi använder inlärning för att ta bort denna ingenjörsbörda. Vi lär oss domänspecifika statistiska kostnadsmodeller för att styra sökningen av tensor operatör implementationer över miljarder möjliga programvarianter. Vi påskyndar sökningen ytterligare med hjälp av effektiv modellöverföring över arbetsbelastningar. Experimentella resultat visar att vårt ramverk levererar prestanda som är konkurrenskraftig med toppmoderna handjusterade bibliotek för lågeffektsprocessorer, mobila GPU:er och serverklassiga GPU:er. • Vi formaliserar det nya inlärningsproblemet för att optimera tensorprogram och sammanfatta dess nyckelegenskaper. • Vi föreslår en ram för maskininlärning för att lösa detta problem. • Vi ytterligare accelerera optimeringen med 2× till 10× med överföring lärande. Det är viktigt att se till att det finns tillräckligt med information för att det ska vara möjligt att få tillgång till den information som krävs för att det ska vara möjligt att få tillgång till den information som krävs för att det ska vara möjligt att få tillgång till den information som behövs för att få tillgång till den information som behövs för att få tillgång till den information som behövs för att få tillgång till den information som krävs.
AutoTVM REF är inriktad på att accelerera djupinlärning arbetsbelastningar och använder maskininlärning för att styra automatisk inställning av djupinlärning primitiver.
Learning to Optimize Tensor Programs
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}