Djupa neurala nätverk visar stor potential som lösningar på många sensing applikationsproblem, men deras alltför stora resursefterfrågan saktar ner utförandet tid, uppehåller ett allvarligt hinder för utplacering på low-end enheter. För att ta itu med denna utmaning var den senaste litteraturen inriktad på att komprimera neurala nätverksstorlekar för att förbättra prestandan. Vi visar att ändra neurala nätverksstorleken inte proportionellt påverkar prestanda attribut av intresse, såsom exekveringstid. I stället existerar extrema icke-linjära körtider över nätverkskonfigurationsutrymmet. Därför föreslår vi en ny ram, kallad FastDeepIoT, som avslöjar den icke-linjära relationen mellan neurala nätverksstruktur och exekveringstid, utnyttjar sedan den förståelsen för att hitta nätverkskonfigurationer som avsevärt förbättrar avvägningen mellan exekveringstid och noggrannhet på mobila och inbyggda enheter. FastDeepIoT gör två viktiga bidrag. Först, FastDeepIoT lär sig automatiskt en exakt och mycket tolkningsbar utförande tid modell för djupa neurala nätverk på målenheten. Detta görs utan förkunskaper om antingen hårdvaruspecifikationerna eller det detaljerade genomförandet av det använda djupinlärningsbiblioteket. För det andra, FastDeepIoT informerar en Tillstånd att göra digitala eller hårda kopior av hela eller delar av detta arbete för personligt eller klassrum användning beviljas utan avgift, förutsatt att kopior inte görs eller distribueras för vinst eller kommersiella fördelar och att kopior bär detta meddelande och den fullständiga hänvisning på första sidan. Upphovsrätt till delar av detta verk som ägs av andra än ACM måste hedras. Abstraktering med kredit är tillåten. För att kopiera på annat sätt, eller återpublicera, för att posta på servrar eller för att omfördela till listor, krävs tidigare specifik behörighet och/eller avgift. Begär tillstånd från authoritys@acm.org. SenSys '18, November 4-7, 2018, Shenzhen, Kina © 2018 Association for Computing Machinery. Europaparlamentets och rådets förordning (EU) nr 1305/2013 av den 11 december 2013 om inrättande av Horisont 2020 – ramprogrammet för forskning och innovation (2014–2020) och om upphävande av beslut nr 1982/2006/EG (EUT L 347, 20.12.2013, s. .. $15.00 https://doi.org/10.1145 komprimeringsalgoritm hur man minimerar exekveringstiden på den profilerade enheten utan att påverka noggrannheten. Vi utvärderar FastDeepIoT med hjälp av tre olika sensorrelaterade uppgifter på två mobila enheter: Nexus 5 och Galaxy Nexus. FastDeepIoT ytterligare minskar den neurala nätverk exekveringstiden med 48% till 78% och energiförbrukningen med 37% till 69% jämfört med toppmoderna komprimeringsalgoritmer.
FastDeepIot REF har studerat förhållandet mellan neurala nätverksstrukturer och exekveringstid för att hitta nätverkskonfigurationer som avsevärt förbättrar exekveringstiden och noggrannheten på mobila och inbyggda enheter.
FastDeepIoT: Towards Understanding and Optimizing Neural Network Execution Time on Mobile and Embedded Devices
{'venue': "SenSys '18", 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}