Den senaste tidens framsteg i fråga om djupinlärning motiverar användningen av djupneutrala nätverk för att känna av tillämpningar, men deras alltför stora resursbehov när det gäller begränsade inbyggda anordningar är fortfarande ett viktigt hinder. En nyligen utforskad lösning utrymme ligger i att komprimera (ungefär eller förenkla) djupa neurala nätverk på något sätt före användning på enheten. Vi föreslår en ny komprimeringslösning, DeepIoT, som ger två viktiga bidrag i det utrymmet. Till skillnad från nuvarande lösningar för att komprimera specifika c typer av neurala nätverk, DeepIoT presenterar en uni ed strategi som komprimerar alla vanliga djupt lärande strukturer för att avkänna applikationer, inklusive fullt anslutna, konvolutionella, och återkommande neurala nätverk, samt deras kombinationer. För det andra, till skillnad från lösningar som antingen sparifierar viktmatriser eller antar linjär struktur inom viktmatriser, komprimerar DeepIoT neurala nätverk strukturer i mindre täta matriser genom att nding det minsta antalet icke-redundanta dolda element, såsom lter och dimensioner som krävs av varje lager, samtidigt som prestanda av avkänningsprogram samma. Viktigt är att den gör detta med hjälp av en metod som ger en global bild av parameteruppsägningar, som visar sig producera överlägsen kompression. En komprimerad modell som skapas av DeepIoT kan direkt använda befintliga djupinlärningsbibliotek som drivs på inbyggda och mobila system utan ytterligare modifikationer. Vi utför experiment med olika sensorrelaterade uppgifter på Intel Edison-enheter. DeepIoT överträffar alla jämförda basalgoritmer med avseende på utförandetid och energiförbrukning med en betydande marginal. Det minskar storleken på djupa neurala nätverk med 90% till 98,9%. Den kan därmed förkorta genomförandetiden med 71,4 % till 94,5 % och minska energiförbrukningen med 72,2 % till 95,7 %. esa förbättringar uppnås utan förlust av noggrannhet. Resultaten understryker DeepIoT:s potential att främja utnyttjandet av djupa neurala nätverk på resursbegränsade inbyggda enheter. En nyckelriktning i inbäddad sensing literaure är att möjliggöra kör gradvis mer intressanta applikationer under de mer uttalade resursbegränsningar inbäddade och mobila enheter. Brouwers m.fl. minskade energiförbrukningen av Wi-Fi-baserad lokalisering med en inkrementell scanningsstrategi [5]. Hester och Al. föreslog en ultra-lågeffekt hårdvara arkitektur och en följeslagare så ware ram för energi-e cient avkänningssystem [25]. Ferrari m.fl. och Schuss et al. fokuserad på trådlösa kommunikationsprotokoll med låg effekt [13, 41]. Wang m.fl. Aktiverad energi eektiv tillförlitlig sändning genom att överväga dåligt korrelerade länkar [49]. Saifullah m.fl. har konstruerat ett skalbart och energieffektivt trådlöst sensornätverk (WSN) över vita utrymmen [40]. Alsheikh m.fl. diskuterade datakompression i WSN med maskininlärningsmetoder [3]. Nya studier fokuserade på att komprimera djupa neurala nätverk för inbyggda och mobila enheter. Han och Al. föreslog en magnitudbaserad kompressionsmetod med ne-tuning, som illustrerade
Yao och Al. föreslå en förstärkt inlärningsbaserad adaptiv avhoppslösning för att utforska den mindre redundanta nätverksstrukturen för mobila och inbyggda enheter REF.
DeepIoT: Compressing Deep Neural Network Structures for Sensing Systems with a Compressor-Critic Framework
{'venue': "SenSys '17", 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}